⚡ News

阿里发布新一代AI自研芯片:打通大模型训练与推理全链路

阿里发布新一代AI自研芯片:打通大模型训练与推理全链路

阿里巴巴旗下半导体部门平头哥(T-Head)近日正式发布了其最新一代AI芯片。该芯片专为大规模语言模型(LLM)的训练和推理需求量身定制,标志着阿里巴巴在自研高性能算力硬件领域迈出了关键一步。新款芯片在架构上进行了深度革新,集成了高带宽内存(HBM)并优化了内部总线互联,旨在解决大模型时代的“内存墙”瓶颈。

根据官方披露的技术细节,该芯片针对 Transformer 架构进行了硬件级加速,能够显著缩短超大规模参数模型的训练周期。在推理层面,该芯片引入了动态精度计算技术,在保证模型输出质量的前提下,极大地提高了单位功效下的吞吐量。阿里表示,该芯片将优先部署于阿里云数据中心,为政企客户提供更具成本效益的AI基础设施服务。此举不仅有助于降低对外部昂贵算力资源的依赖,也将助力阿里巴巴在竞争激烈的全球云服务市场中通过“软硬一体”化战略构筑护城河。

↗ 阅读原文