星期日, 19 7 月

辉达传将推出新的推论晶片 加速 AI 处理

辉达(NVIDIA)传出计划推出一款全新晶片,专为协助OpenAI等客户打造更快速、更高效率的人工智慧(AI)工具。做为AI晶片龙头,辉达的这项重大业务调整,势将重塑AI竞赛的格局。

知情人士向华尔街日报透露,辉达设计了一套全新的「推论」(inference)运算系统,这套新系统平台整合了新创公司Groq所设计的晶片,预定在3月举行的辉达GTC开发者大会上亮相。

一些消息人士表示,OpenAI已同意成为辉达新颗新推论晶片的最大客户之一。若真如此,这将是辉达的一大胜利。因为过去多个月来,OpenAI一直在寻找比辉达晶片更高效率的替代方案,上月还与晶片新创公司Cerebras签署了价值数十亿美元的算力合作协议,Cerebras的专长正是推论晶片。

推论运算是一种让AI模型能回应查询的处理方式;现在这种运算方式已成为业界激烈竞争的领域。Google与亚马逊(Amazon)均已在这方面设计出可与辉达旗舰系统抗衡的晶片。

周五(27日)稍早,OpenAI宣布获得辉达300亿美元投资,并将向辉达大规模采购「专用于推论的算力」,其实已暗示了辉达新的推论处理器的存在。

过去一年来,随著企业加速部署AI代理及其他AI工具,市场对高阶运算的需求已从训练转向推论。AI代理,是一种相对能更自主代表使用者执行任务的AI系统。

辉达执行长黄仁勋一向主张,辉达的绘图处理器(GPU)在训练与推论两方面皆为市场领导者,强调辉达晶片的多功能性,正是公司产品的核心吸引力所在。

然而,许多开发与营运AI代理的公司发现,辉达GPU成本过高、耗能过大,且未必最适合实际应用。部分辉达的大型客户就发现,某些AI代理的工作,只以CPU执行,反而更有效率。辉达因而面临压力,必须开发成本较低、能源效率更高的推论晶片。

辉达新的推论运算系统要整合Groq晶片,双方合作成形于辉达去年底同意以200亿美元,取得Groq的关键技术授权,同时延揽Groq的高层团队。Groq是以「语言处理单元」为架构设计晶片,在推论功能上具有高度效率。