AI模型 关键字列表
趋势丨速度提升数十倍,用光子计算重塑AI算力集群

趋势丨速度提升数十倍,用光子计算重塑AI算力集群

要实现超强的AI能力,需要超大规模的模型,要训练超大规模的AI模型,需要数千,甚至上万的GPU协同工作。这就带来几个问题:更多的GPU造成的高能耗,计算卡与计算卡之间的通信延迟,计算集群与计算集群之间的通信延迟和算力损耗。那么,如果用光来计算,用光来传输,会怎么样?

英伟达BLACKWELL系统如何“吃下”万亿级参数AI模型

英伟达BLACKWELL系统如何“吃下”万亿级参数AI模型

可以看到,单纯将Hopper替换为Blackwell并不是最好的答案。根据英伟达方面的解释,只有在配合一系列正确举措之后,推理性能提升至30倍、推理功耗降低至1/25的结果才有可能实现。

摩根大通能否凭借AI突出重围?

摩根大通能否凭借AI突出重围?

全美最大、盈利最佳的摩根大通银行首席执行官杰米·戴蒙(Jamie Dimon)也急了。9月20日戴蒙来到底特律,为纪念摩根大通通过其前身公司(第一共和银行)进入该市 90 周年,以及该公司在该市重新开展业务 10 周年。