美国官方管制Anthropic和OpenAI推出最先进工具后,目前正和多家AI公司深入协商,希望未来替新模型发布制定自愿性规范。
英国金融时报引述知情人士报导,这套规范最快下周发布,将为具备先进网路能力的模型设定评测标准,并订出发布时程,希望让未来新模型上线流程更加顺畅。
这项措施将落实川普总统上月发布的AI行政命令。由于OpenAI和Anthropic预料即将启动首次公开发行股票(IPO),各界也迫切希望厘清政府如何监管这类技术。
知情人士还说,川普政府上月接连出手干预后,美国官员和业界加快磋商,但这些做法也在主要AI实验室内部引发困惑和不满。Anthropic最新模型于6月12日以易遭滥用及网路安全风险为由被列入出口管制,但相关限制已于本周二解除。
了解白宫讨论内容的人士说,AI标准和创新中心( CAISI)及美国国家安全局,将在制定和监督这套规范方面扮演关键角色。
另一名知情人士说,美国官员也会厘清国内外哪些人可以使用先进模型,这可能为纳入美国盟友的全球架构铺路。
业界和白宫的谈判内容,包括模型审查需要多久,以及模型能力达到什么门槛,才会被认定为「前沿(frontier)模型」,也就是能力最强、风险也可能最高的模型。
OpenAI执行长奥特曼今天在英国金融时报撰文呼吁建立「全球架构」,制定相关标准,并就AI能力和风险提供专业、公正的分析。他说,唯有先建立这套架构,AI带来的好处才可能广泛普及。