字节跳动拟采购天数智芯的5万颗AI晶片,建立训练与推论分离供应链,天数智芯将成为华为和寒武纪之后,字节跳动的第三家国产GPU供应商。
分析指出,推论规模远大于训练,国产晶片已具落地能力;在政策要求下,大厂加速导入本土晶片,但仍存在技术与整合上的障碍需要磨合。
第一财经引述业内人士,字节跳动正与天数智芯洽谈采购至少5万颗AI晶片,主要用于推论运算。此次讨论的晶片将用于大型模型的推论负载,对应天数智芯「智铠」系列云端推论GPU。若交易达成,天数智芯将成为继华为、寒武纪之后,字节跳动的第三家GPU供应商。
字节跳动已明确区分训练与推论两套晶片供应体系。大型模型训练采用主要采用华为升腾与寒武纪的高阶训练晶片;面向消费端应用的「豆包」以及企业端MaaS(模型即服务)的大规模推论需求,则导入天数智芯「智铠」系列等专用推论GPU。
除了字节跳动,百度也在布局「万卡级」AI算力集群规模,阿里巴巴预估未来三年投入超过人民币3,800亿元,加码云端与AI运算基础设施;腾讯则在多地建设腾讯云高效能AI丛集,并预计于2026年下半年大规模导入国产算力。