跳到正文
原文
钛媒体· Leo张ToB杂谈·· 2 小时前精选AI 评分37

芯片产能不再是最大挑战,AI集群互连成为关键瓶颈

算力已经不再是最大的挑战,互连才是

AI 导读

芯片产能不再是制约AI算力发展的最大障碍,网络互连已成为大规模集群释放算力的关键瓶颈。中国信通院数据显示,大规模分布式训练的网络通信耗时占比高达30%到50%;受访企业称,集群真正释放的算力多数不超过50%,部分可达60%到70%。众星微日前发布三款互连芯片产品;面向800G演进,文中给出协议硬件化、将PCIe Switch集成进网卡、兼容IB与以太网三条路径。

推荐理由

文章对比芯片产能与网络互连两类约束,结合通信耗时、集群利用率和800G工程难点,解释GPU充足时集群仍跑不满的原因。

来源:钛媒体 · tmtpost.com