10月16日消息，OpenAI首席執行官山姆·奧特曼於美國當地時間周三表示，該公司並非\”經選舉產生的世界道德警察\”。此前，他決定放寬限制，允許其聊天機器人ChatGPT生成成人內容，這一決定引發了強烈反彈。
近幾個月來，OpenAI面臨越來越嚴格的監管審查，尤其是在保護用戶（包括未成年人）安全方面，該公司已陸續加強多項安全控制措施。
但奧特曼在社交媒體X上發文稱，隨著公司推出新的技術工具，並已能夠有效控制「嚴重的心理健康風險」，現在已可以「穩妥地放寬」絕大多數內容限制。
事實上，早在2024年12月份，奧特曼就已透露，將允許ChatGPT向「完成身份驗證的成年人」提供包括成人內容在內的更廣泛內容。
他在社交媒體上進一步上解釋這一政策，強調OpenAI「高度重視將成年用戶視為成年人的原則」，但同時承諾，仍會禁止「任何對他人造成傷害的內容」。
奧特曼寫道：「正如社會在其他領域設定適當邊界一樣（比如電影分級制度中的R級），我們也希望在此採取類似做法。」
不過，奧特曼的最新表態似乎與他8月份做客播客節目時的說法相互矛盾。當時他表示，他為OpenAI能夠抵制某些可能顯著提升ChatGPT使用量的功能而感到「自豪」，例如「性愛機器人虛擬形象」。
他當時說：「我們本可以做很多短視的事情，來刺激用戶增長或收入，但那將與長期目標嚴重背離。」
今年9月，美國聯邦貿易委員會（FTC）對OpenAI及其他科技公司啟動調查，重點評估ChatGPT等聊天機器人可能對兒童和青少年造成的負面影響。此外，OpenAI還捲入一起非正常死亡訴訟：一個家庭指控ChatGPT導致其未成年兒子自殺。
在調查與訴訟之後，OpenAI陸續公開採取了一系列安全強化措施。9月底，該公司推出了多項家長控制功能，並正在開發一套年齡預測系統，未來將自動為18歲以下用戶啟用適合青少年的安全設置。
10月15日，OpenAI宣布成立一個由八名專家組成的委員會，旨在評估AI對用戶心理健康、情緒與行為動機的影響。然而同一天，奧特曼卻發文稱該公司將放寬內容限制，兩者在時間上的重合在社交媒體上引發困惑與強烈反彈。
奧特曼承認，這一決定引發的輿論反響「遠遠超出預期」。他的表態也引起了包括「全國反性剝削中心」（NCOSE）在內的多個社會倡導組織的關注，該組織已公開呼籲OpenAI撤銷允許成人內容的決定。
NCOSE執行主任海莉·麥克納馬拉在周三的一份聲明中指出：「性化AI聊天機器人本身就存在風險，在行業安全標準尚不明確的背景下，虛擬親密關係可能對用戶心理健康造成真實傷害。」
億萬富翁投資者馬克·庫班也公開警告稱，OpenAI允許在ChatGPT中生成成人內容的決定，正在家長和學校中引發信任危機。如果家長懷疑未成年人有可能繞過年齡驗證系統接觸到不良內容，就會毫不猶豫地棄用ChatGPT。
「這註定會引發反噬，而且後果將十分嚴重，」庫班在X平台上回應奧特曼時寫道，「沒有哪個家長會相信你們那套年齡驗證系統真能攔住孩子。到時候，他們只會讓孩子轉用其他大語言模型——誰會願意冒這個險？」