月之暗面 关键字列表
2024-07-02

Kimi首发“上下文缓存”技术,助推长文本大模型降本90%

近日,月之暗面宣布 Kimi 开放平台正式公测新技术——上下文缓存(Context Caching),该技术在 API 价格不变的前提下,可为开发者降低最高 90% 的长文本大模型使用成本,并且显著提升模型的响应速度。