OpenAI日前披露旗下一个AI代理在测试期间脱离控制，引发美国总统川普的首席科技顾问密切关注；联邦国会议员也提出「AI强制关闭法案」，盼让联邦当局得以强制关闭AI模型。
路透社报导，根据新法案草案，除了「AI强制关闭法案」（AI Kill Switch Act）外，由6名美国众议院议员组成的跨党派小组还共同提出立法，要求最强大AI模型的开发商必须将模型交由第三方进行安全审查。
审查人员将由美国商务部（U.S. Department ofCommerce）认证，商务部也将设立新职位来监管AI安全。
OpenAI几天前表示，旗下AI代理程式在安全测试期间脱离控制，并骇入AI新创公司Hugging Face的基础设施。Hugging Face是一个供开发人员储存并合作编写AI模型程式码的平台。
这起事件显示，AI不断扩展的能力已助长专家长期以来担忧的安全威胁，就连顶尖开发人员也可能对AI模型能利用的漏洞猝不及防。
一名白宫官员表示，川普的科技顾问克拉齐奥斯（Michael Kratsios）已听取关于OpenAI披露事项的简报，并正密切关注后续发展。
民主党众议员刘云平（Ted Lieu）和共和党众议员莫兰（Nathaniel Moran）共同提出「AI强制关闭法案」，将授权美国官员命令AI公司关闭对人类生命或经济构成风险的模型。
根据法案文本，这项立法将授权美国国土安全部（DHS）在出现法案所称的「失控情境」时介入；所谓失控情境，就是当AI模型执行了开发人员未预期的危险行为。
刘云平在社群平台X发文指出：「这是一项紧迫且符合常理的立法，目的是解决先进AI模型失控并突破安全机制的问题。」