亿万富豪马斯克旗下新创公司xAI开发的聊天机器人Grok在X平台生成露骨色情内容,从欧洲到亚洲,多国政府和主管机关予以大力扫荡,展开调查、祭出禁令并且要求强化防护措施。
全球日益雷厉风行遏制相关的非法内容。路透社整理各国政府和主管机关针对此事所作反应如下:
●欧洲
Grok生成「裸露的」不雅图像引发关切,欧洲联盟执行委员会(European Commission)因而将去年对X的保存资料命令期限予以延长,要求保留所有Grok相关内部文件和数据至今年底。
英国传媒监管机构通讯管理局(Ofcom)12日对X展开调查,以厘清Grok制作的亲密深伪图像是否违反其依据英国「线上安全法」(Online Safety Act)架构而应保护民众免受非法内容侵害的义务。
法国方面,数位部长等官员表示,已将在X上流传的Grok生成露骨色情内容移送检方,并且通报法国影音与数位传播监管单位(Arcom)就该平台是否符合法国和欧盟「数位服务法」(Digital Services Act)规范进行审查。
德国文化与媒体部部长魏莫(Wolfram Weimer)呼吁欧盟执委会采取法律行动,强调欧盟规定已赋予处理非法内容的工具,并且警告问题恐演变成「性骚扰产业化」。
义大利资料保护主管机关提出警告,强调若未经同意运用人工智慧(AI)工具创造真实存在人物「裸露」的深伪图像,恐构成严重隐私侵害,有时甚至会涉及刑事犯罪。
●亚洲
印度电子暨资讯科技部于2日正式致函X,要求针对疑似Grok导致的猥亵不雅图像生成和分享进行下架处理,并于72小时内回报后续措施。
印尼通讯与数位部宣布已经封锁Grok服务。部长穆迪雅(Meutya Hafid)依据严格的反色情法令指出,此举是为保护妇女和儿童免受AI生成的虚假色情内容侵害。
马来西亚通讯主管机关13日以Grok对用户安全构成疑虑为由表示,计划对X平台展开法律行动。
AI生成不雅深伪图像引发公愤,菲律宾也加入东南亚邻国祭出禁令的行列,宣布计划「今晚」封锁Grok。网路犯罪防治中心代理执行主任巴瑞索(Renato Paraiso)说:「今晚或今天之内,我们预计Grok将在菲律宾全境遭到封锁。」
●北美洲
美国加州州长和检察长昨天表示,鉴于平台出现未经同意的性图像散播,将要求xAI提出明确说明。
●大洋洲
澳洲网路安全监管机关电子安全委员办公室(eSafety Commissioner)表示,正就Grok「以数位方式将人像脱衣」生成深伪不雅图像进行调查,并根据图像侵害规范审查成人内容,强调目前已检视的儿童相关案例尚未达到法律规范的儿少性剥削内容的法律门槛。
●xAI采取哪些行动
xAI昨天深夜宣布,对所有Grok用户的影像编辑功能加以限制。
Grok已于上周改为仅付费订阅用户可以使用影像生成和编辑功能。
马斯克(Elon Musk)昨天表示,他「不清楚Grok生成任何未成年裸露影像,确实没有」。
他先前则在X上表示,任何利用Grok制作非法内容的用户,将面临与上传非法内容相同的后果。 $(document).ready(function () {nstockStoryStockInfo();});