/
实时交互式应用 关键字列表
极智AI | 解读大模型性能测试指标及测试方法
从业务角度来说是反映模型的初始响应速度，对于实时交互式应用非常重要，较低的TTFT可以提高用户体验，使用户感觉模型响应迅速；从算法推理角度来说，其实主要是在掐大模型推理的 Prefill 时间，更加准确一些的是上图中的 Queueing Time + Prefill Latency 时间和。
白皮书
/
从业务角度来说是反映模型的初始响应速度，对于实时交互式应用非常重要，较低的TTFT可以提高用户体验，使用户感觉模型响应迅速；从算法推理角度来说，其实主要是在掐大模型推理的 Prefill 时间，更加准确一些的是上图中的 Queueing Time + Prefill Latency 时间和。
北京第二十六维信息技术有限公司（至顶网）版权所有. 京ICP备15039648号-7
京ICP证161336号
京公网安备 11010802021500号
举报电话：010-62641205-5060 涉未成年人举报专线：010-62641208 举报邮箱：jubao@zhiding.cn
网上有害信息举报专区：https://www.12377.cn
