HBM技术通过提升I/O口数量和速率,突破内存限制,成为AI芯片的强大辅助。HBM3和HBM3e将成为AI服务器主流配置,预计HBM4将于2026年发布。全球HBM市场预计在2024年超百亿美元。HBM采用TSV+Bumping和TCB键合方式,但散热效率低下,海力士引入MR-MUF工艺改善。预计HBM4将采用混合键合Hybrid Bonding技术,3D封装的核心是混合键合与TSV。
AI大模型通过大规模预训练和微调实现通用人工智能,目前正从'大炼模型'向'炼大模型'转变,推动多模态和多场景革命。GPT模型迭代加速,国内企业如百度、腾讯、阿里在大模型市场占据优势。
智算中心的发展依托最新AI理论和计算架构,以AI大模型和算力技术为核心。GPU主导算力芯片市场,AI信创推动国产算力。AI分布式计算市场由算力芯片、内存和互联设备组成。ChatGPT推动GPU需求,SK海力士HBM3产量售罄。CoWoS封装技术集成HBM与处理器,台积电领先封装市场。AI算力需求推动高效电源技术发展,背面供电技术成为关键。
ChatGPT的火爆使生成式AI(AIGC)回归焦点,AIGC指利用AI技术生成内容,涵盖文本、图像、音频等领域。AIGC产业图谱V2.0展示了基础设施、算法模型、内容应用等生态布局。
ARM V9架构强调AI、矢量和DSP性能,已广泛应用于高端智能手机和数据中心芯片,如NVIDIA Grace Hopper、AWS Graviton等。ARM在智能手机、PC等领域为AI赋能,如Arm Cortex-X4芯片。高通基于ARM架构推出面向PC的骁龙X Elite处理器。
HBM(高带宽存储)是一种多层DRAM Die垂直堆叠的存储技术,通过TSV技术实现高带宽和小体积。
探讨GPU/TPU集群网络组网技术,包括NVLink、InfiniBand、ROCE以太网Fabric、DDC网络方案。
信创产业旨在实现信息技术领域的自主可控与国家信息安全,涵盖基础硬件、基础软件、应用软件、信息安全四部分。重要环节包括芯片、整机、操作系统、数据库、中间件。文章还介绍了操作系统、中间件、数据库、固件的概念、分类及发展历程,并提供了信创产业的研究报告和技术资料。