星期四, 4 6 月

代理式 AI 太受欢迎 CPU 也闹缺货

AI风潮之下,先是绘图处理器(GPU)与记忆体大缺货,如今代理式AI的崛起,让缺货潮蔓延至中央处理器(CPU)。

Wccftech报导,Semianalysis创办人帕特尔(Dylan Patel)指出,云端业者不仅GPU受限,CPU也喊缺。以往AI靠GPU执行简单的推论,但新AI模型现身,代理式AI处理的任务,有些高度依赖CPU,如物理运算与模拟,导致资料中心的CPU用量激增。

与此同时,尽管GPU仍在AI云端伺服器占有主导地位,比方说每个机柜中,单一CPU需要搭配八个GPU,但现在伺服器内的GPU与CPU的比例日益接近,也使得CPU陷入短缺。