VAST Data 开源其 VUA KVCache 软件,通过在 NVMe SSD 上存储 AI 模型推理过程中生成的令牌,避免重复计算,加快多步生成和对话续接。
Supermicro 执行长暨总裁 Charles Liang 表示:“我们的全新 2U 2 节点多 GPU 服务器是适用于视频直播、高阶云端游戏和无数社交网络应用的理想平台。