研究人员今天指出，美国亿万富豪马斯克的人工智慧（AI）聊天机器人Grok据估于短短11天内，生成300万张女性及孩童的性化不雅照，其调查揭露引发全球强烈抗议的AI生成露骨内容的规模。
Grok是由马斯克（Elon Musk）旗下新创公司xAI开发，并整合进社群媒体X平台。Grok最近推出影像编辑功能，使用者只需输入「让她穿上比基尼」或「脱掉她的衣服」等简单文字指令，就能线上编修真人影像。
法新社报导，大量不雅深伪（deepfake）影像在网路上流传，监管机构与受害者均表达强烈愤怒，促使多国对Grok祭出禁令。
研究网路恶意假讯息有害影响的非营利监管组织「对抗网路仇恨中心」（Center for Countering DigitalHate）表示：「X平台上的Grok推出影像编辑新功能后，这项AI工具据估已生成大约300万张不雅照，其中2万3000张疑似是描绘孩童。」
对抗网路仇恨中心的报告估计，Grok在短短11天内生成如此大量的写实影像，等于平均每分钟产出190张不雅照。
这份报告未提及，有多少影像是在未经当事人同意下生成。
不过报告写道，Grok不雅照所描绘的公众人物包括美国女演员席琳娜（Selena Gomez）、歌手泰勒丝（Taylor Swift）和妮姬米娜（Nicki Minaj），还有瑞典副总理布仕（Ebba Busch）、前美国副总统贺锦丽（Kamala Harris）等政治人物。
对抗网路仇恨中心执行长阿迈德（Imran Ahmed）说道：「资料清楚表明，马斯克的Grok是生产性侵害（sexual abuse）影像素材的工厂。」
X目前尚未就这项报告的发现置评。法新社透过电子邮件联系xAI后，仅收到简短的自动回复：「传统媒体的谎言。」
在全球反弹声浪下，X上周宣布，在此类行为被视为非法的地区，将对所有Grok和X平台用户就生成身著「比基尼、内衣及类似服装」人物照片的功能，实施「地理封锁」。
然而阿迈德指出：「亡羊补牢无法抹去这些伤害。我们必须让科技巨擘负起责任，因为是他们让加害者仅需点击按钮，就能伤害女性和女孩。」 $(document).ready(function () {nstockStoryStockInfo();});