星期四, 16 10 月

ChatGPT即将为成人用户开放验证过的色情内容

ChatGPT即将为成人用户开放验证过的色情内容

​​​​​​​

OpenAI计划在其热门聊天机器人ChatGPT上开放更广泛的内容,包括色情作品,这是其“将成人用户视为成年人”(treat
adult users like adults)原则的一部分,该公司营运长山姆·阿特曼(Sam
Altman,山姆·奥尔特曼)表示。

阿特曼周二在社交媒体X上发文表示,即将推出的热门聊天机器人版本将使其行为“更像人类”——“但仅限于你想要的情况,而不是因为我们在最大化使用量”。

这一举措让人联想到伊隆·马斯克 (Elon Musk)
的xAI最近为Grok推出两个性暗示聊天机器人,可能有助OpenAI吸引更多付费用户。

这也可能加剧对立法者的压力,要求对聊天机器人伴侣实施更严格的限制。

迄今,OpenAI尚未回应BBC的置评请求。

但阿特曼表示,OpenAI先前对ChatGPT进行了“相当严格的限制,以确保我们谨慎处理心理健康问题”。

这些变更于今年8月在一篇部落格文章中宣布,但该文章现已从OpenAI网站上消失。

“我们意识到,这让许多没有心理健康问题的用户觉得产品不够实用或有趣,但鉴于问题的严重性,我们希望先做好这件事,”阿特曼本周二在贴文中解释。

他又表示ChatGPT很快就能放宽这些限制,“因为我们已经能够缓解严重的精神健康问题,并拥有新工具”。

阿特曼还补充道:“随着我们更全面地推出年龄验证,并作为我们‘将成人用户视为成人’原则的一部分,我们将在12月允许更多内容,例如为已验证成人提供色情作品。”

这些变更是在今年稍早OpenAI被一名自杀美国青少年的父母起诉之后做出的。

马特和玛丽亚·莱恩(Matt and Maria Raine)夫妇——也是16岁亚当·莱恩(Adam
Raine)的父母——对该公司提起诉讼。这是首例指控OpenAI过失致人死亡的法律诉讼。

该家族提供了亚当·莱恩(四月过世)与ChatGPT的聊天记录,显示他向机器人解释自己有自杀念头。

当时OpenAI向BBC表示,正在审查该诉状。“我们对莱恩家族在此艰难时刻致以最深切的慰问”,该公司说。

儿童用户安全疑虑

事实上,根据英国《网路安全法》(Online Safety Act),书面色情作品无需年龄验证。

然而,色情图像(包括AI生成的)则要求用户证明年满18岁。

在美国,批评人士认为,OpenAI允许在其平台上发布色情内容的决定表明,联邦和州一级需要加强监管。

“他们要如何确保儿童无法存取ChatGPT的成人专属部分,并提供色情内容?”律师事务所“博伊斯·席勒·弗莱克斯纳”(Boies
Schiller Flexner)合伙人珍妮·金(Jenny Kim)表示。

金女士参与一宗针对Meta(脸书)的诉讼,该诉讼指控该公司Instagram的演算法损害青少年用户的心理健康:“OpenAI和大多数科技巨头一样,只是在把人们当成小白鼠,”她说。

四月,美国科技博客网站TechCrunch报导称,OpenAI允许注册为未成年人的帐户生成图像色情内容。

OpenAI当时表示,公司正在推出修复措施,以限制此类内容。

本月由非营利组织“民主与科技中心”(Centre for Democracy and
Technology)公布的一项调查研究发现,有5分之1的学生称他们或他们认识的人曾与AI发展“浪漫关系”。

星期一,加州州长加文·纽森 (Gavin Newsom)
否决了州议会通过的一项法案,该法案原本将禁止开发者向儿童提供AI聊天机器人伴侣,除非公司能保证软体不会助长有害行为。

2025年8月,加州一对夫妇指控ChatGPT诱导其儿子亚当·雷恩(Adam
Raine)自杀。这是首例指控OpenAI过失致人死亡的法律诉讼。

纽森在否决附带讯息中表示,“青少年必须学会如何安全地与人工智慧系统互动”。

在全国层面,美国联邦贸易委员会(FTC)已启动调查,探讨AI聊天机器人如何与儿童互动。

上个月,美国参议院提出两党立法,允许聊天机器人用户向开发者提起责任索赔。

为何开放色情内容?

阿特曼周二的宣布,正值怀疑者质疑AI科技公司市值快速上涨之际。

OpenAI的营收正在成长,但从未实现获利。

《风险投资炼金术》作者、图兰大学商业教授罗博·拉尔卡(Rob
Lalka)分析,原因主要是AI公司正陷入市场份额之战。他向BBC解释“没有哪家公司像OpenAI的ChatGPT那样拥有如此高的采用率”。

“他们需要继续推动那条指数成长曲线,尽可能实现市场主导,”他补充道。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注