星期六, 18 7 月

AI 算力荒 削弱大模型战力 科技大厂采取限流、涨价措施

人工智慧(AI)淘金潮正加速耗尽开发者不可或缺的资源:运算能力。这对AI热潮是一大警讯,就在大家习惯靠AI来提升工作效率时,算力不足会让这些超强工具变得很难用,发挥不了原有的实力。

洛杉矶工程师兼科技投资人普拉迪安(Ben Pouladian)说:「大家都在谈论石油,但我认为世界现在最缺的是符元(tokens)」,「AI不再只是聊天机器人,现在AI能策划任务,越来越聪明」。符元是AI领域的计算单位,来衡量执行任务耗费多少运算资源。

热门聊天机器人Claude和编写程式软体Claude Code的开发商Anthropic,近日频繁为当机所苦。该公司已开始在尖峰时段,管制使用者的运算用量,但这项措施引发客户抱怨,认为太快就达到使用上限。

另外,OpenAI撤回Sora影片生成应用程式,部分原因就是为了腾出运算资源,以支援代号为「Spud」的新型AI模型所驱动的程式设计和企业级产品。OpenAI API平台主要为软体企业用户使用,符元使用量从去年10月的每分钟60亿个,今年3月下旬激增至每分钟150亿个。

去年年底,AI云端公司CoreWeave将价格调涨了20%以上,并开始要求小型客户签下至少三年的长约,先前要求仅为一年。图形处理器(GPU)每小时租赁价格,自去年秋季以来大幅上涨。根据Ornn运算价格指数显示,租赁辉达最先进Blackwell系列晶片的一小时费用为4.08美元,较两个月前的2.75美元上涨了48%。

OpenAI上周向投资人表示,快速持续增加算力,以支援旗下软体广为采用,让该公司得以超越Anthropic。2月中旬以来,Anthropic旗下各系统当机已成家常便饭,部分企业客户不得不转向其他AI模型厂商。

Anthropic近来发布了更强大的AI模型Mythos,Stratechery部落格作者、分析师汤普森(Ben Thompson)在报告指出,Anthropic仅向特定合作伙伴开放Mythos,可能是因算力受限。

OpenAI说,2025年可用算力为1.9百万瓩(GW),为2024的三倍,并预计2027年算力增至两位数出头,并在2030年达到约30GW。相较之下,OpenAI估计Anthropic去年底算力为1.4GW,明年则将介于7至8GW之间。