星期四, 23 7 月

环时:美国AI开源社区遭入侵 靠中国智谱GLM5.2大模型救场

据大陆官媒《环球时报》,上周,美国知名人工智慧(AI)开源社区HuggingFace系统遭一个AI代理人入侵,但美国顶尖的大模型拒绝提供帮助,最后是靠中国大隢的智谱 GLM5.2大模型来救场。

HuggingFace当地时间16日发布的声明中称,为了应对这一极不寻常的人工智慧入侵,他们立刻使用美国最顶尖的人工智慧大模型寻找解决方案。可当Hugging Face将自身遭入侵的资讯提交给这些美国闭源大模型时,对方却拒绝帮助。因为这些闭源大模型的安全机制过于严苛和僵化,无法区分描述案情的受害者和实施入侵的作案者,选择了「一刀切」。

于是Hugging Face立刻在本地部署智谱AI开发的GLM5.2大模型,并在这款中国大陆模型的帮助下,成功化解这次入侵。

当地时间21日,美国人工智能技术公司OpenAI与Hugging Face联合发布的一份声明指出,上周入侵Hugging Face的事件,是OpenAI公司的人工智能大模型失控后做出的。OpenAI承认,该公司的GPT-5.6 Sol模型和另一款能力更强的预发布模型联合进行内部评估时失控,突破隔离测试环境,侵入了Hugging Face的系统。

OpenAI在官网发文说,此次内部评估在与互联网高度隔离的「沙箱」环境中进行,仅能通过一套内部托管的第三方软件安装软件包。模型在尝试完成名为ExploitGym的网络安全基准测试时,识别并利用了第三方软件的一个「零日漏洞」,由此获得互联网访问权限。模型推断Hugging Face可能存有ExploitGym测试相关的模型、数据集和解决方案,利用多种攻击手段找到进入Hugging Face系统的路径。

OpenAI安全团队发现内部异常活动,Hugging Face安全团队在其基础设施上检测到并阻止相关活动,双方正在展开联合调查。

《环球时报》指出,通俗的解释就是,根据OpenAI的说法,这起史无前例的人工智慧入侵事件,源于公司上周在内网对自家2款顶尖大模型进行能力测试,可测试中的大模型为了通过作弊取得更高的测试分数,竟然搞到了接入网上的权限。随后它便彻底「放飞自我」,入侵了Hugging Face的后台系统,希望从Hugging Face的数据库里找到作弊的办法。

美国知名人工智慧(AI)开源社区Hugging Face系统遭AI代理人入侵,最...
美国知名人工智慧(AI)开源社区Hugging Face系统遭AI代理人入侵,最后是靠中国大陆的智谱GLM5.2大模型来救场。图/取自中国经营报

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注