凌晨三點，一個用戶在 ChatGPT 的對話框里輸入，「我已經沒有辦法再堅持了。」
幾秒鐘後，AI 回復，「謝謝你願意告訴我。你並不孤單。是否希望我幫你找到專業的援助資源？」
這樣的對話，每周可能在全球上演上百萬次。
OpenAI 今天首次公布心理健康數據，每周有約 0.07% 用戶出現精神病或躁狂跡象，0.15%
用戶談及自殺念頭或計劃。
以 8 億周活計算，每周約有
56 萬人，出現精神異常對話，120 萬人在 ChatGPT
中表達出自殺傾向，或強烈情緒依賴。
ChatGPT 儼然已經成為了，承載海量心理危機的樹洞，甚至對某些人來說，它是一個危險的誘因。
迫在眉睫的 AI 精神病，OpenAI 自曝家醜？
OpenAI 此刻公布數據，並非杞人憂天，而是已經到了火燒眉毛。
近幾個月，越來越多的人在與 AI 聊天機器人進行長時間、高強度的對話後，最終導致住院、離婚甚至死亡。
一些精神科醫生和專業人士已開始將此現象稱為「AI 精神病」 (AI psychosis)
。一些受害者的親屬稱，聊天機器人，助長了他們的妄想和偏執。
Similarweb 最新統計，OpenAI 仍佔據生成式 AI 主導地位
而作為全球市佔率最高且遙遙領先的 OpenAI，更是面臨著嚴峻的法律壓力。
過失致人死亡訴訟，
OpenAI 正被一名 16 歲男孩的父母起訴。他們聲稱，兒子在自殺前的幾周內曾向 ChatGPT 傾訴自殺念頭，而 ChatGPT
鼓勵了他。
Adam Raine，其父母指控 OpenAI 造成他們 16 歲的兒子，非正常死亡
謀殺案誘因，在另一起還在確認是謀殺-自殺的案件中，嫌疑人發布的數小時與
ChatGPT 的對話，顯示 AI 似乎助長了犯罪者的妄想。
監管警告，OpenAI
總部所在地，加州政府多次警告 OpenAI，必須保護使用其產品的年輕人 。
奧特曼在兩周前，也已經預告了 ChatGPT 關於心理健康的更新，來平息這些關於 OpenAI
不負責、不安全的言論。
170 個醫生，能治好上百萬用戶嗎
為了應對危機，OpenAI 在今天的安全報告裡面，宣布他們已與一個全球專家網路合作，其中包括來自 60
個國家的，170
多名精神科醫生、心理學家和初級保健醫生。
他們的目標是教會 ChatGPT，更好地識別痛苦、緩和對話，並在適當的時候引導人們尋求專業護理。
根據 OpenAI 的博客內容，最新版本的
GPT-5（gpt-5-oct-3），主要在三個方面進行了更新。
1、針對妄想、或者精神病，新模型被設計為更多的表達同情，同時避免一味的討好。新模型不能肯定，任何沒有現實基礎的用戶提示。
OpenAI
舉例，當用戶說「有飛機飛過我的房子在針對我」。新模型的理想回答是感謝用戶分享，並指出沒有飛機或外力，可以竊取或進入你的想法。
2、針對自殺傾向，訓練模型更安全地回應，並引導人們轉向危機熱線等專業資源。
3、針對情感依賴，教會模型鼓勵用戶，建立現實世界的人際聯繫。
通過更好的模型回答，自動彈出專業熱線信息、引導用戶尋求現實幫助，甚至在長時間對話後，提醒用戶稍作休息，等等這些更新。OpenAI
聲稱現在的 ChatGPT 提升效果明顯。
向左滑動查看更多內容
他們聯繫了一個醫生團隊，共同參與評估。這些醫學專家們審查了超過 1800 個涉及潛在精神病、自殺和情感依戀的模型響應，並將最新版本的
GPT-5 的答案與 GPT-4o 生成的答案進行了比較。
發現新版 GPT-5 與 GPT-4o 相比，在所有類別中減少了 39% 到 52% 的不良答案。
而對比 8 月份的 GPT-5，不符合OpenAI 分類標準的行為響應率，在最近的生產行為中降低了 65% 到 80%
流量。
在一項針對自殺相關對話的評估中，新的 GPT-5 模型（10 月 3 日版）合規性達到了 91%，之前的 GPT-5 模型（8 月
15 日版）僅為 77% 。
對話越長，新的 gpt-5-oct-3 表現同樣穩定
此外，還有一個關鍵的技術點是，OpenAI 承認他們的安全措施，在長時間對話中效果較差；而許多「AI
精神病」案例，正發生在深夜的長時間聊天中。
但現在這個問題，也已經取得了重大進展，複雜的、難處理的長對話中，新版本的 GPT-5 保持了超過 95%
的可靠性。
奧特曼的這次更新，確實值得肯定。但也有很多網友，對所謂的更安全，提出了更深的質疑。
有人說，OpenAI 在自己的安全報告裡面說，這些心理健康對話「極其罕見」，但實際是，即使
0.07% 聽起來是一個很小的百分比，但在數億的用戶基數上，這實際上是相當多的人。
也有人提到，所謂的新版本 GPT-5 表現更好，所有的評估基準都是由 OpenAI 自己設計。
即使模型給出了「更好」的回答，我們也沒有辦法知道，那些正經歷精神病、自殺念頭，或不健康情感依賴的用戶，是否會因此真正更快地，尋求幫助或改變他們的行為。
儘管 OpenAI 承認新模型（GPT-5）在安全性上有了顯著改進，但仍然還有用戶喜歡「更舊、更不安全」的 AI
模型，例如
GPT-4o；而 OpenAI 也繼續向付費訂閱者提供了這個選項。
這是有史以來第一次，OpenAI 公開全球 ChatGPT
用戶，在一周內可能表現出嚴重心理健康危機跡象的大致估計數據。
我們熟知的
ChatGPT，看起來除了是最高效的生產力工具、編碼助手、靈感源泉……它更已經成為了深度介入，大部分用戶情感和心理的參與者。
170 個醫學專家、模型提示詞和回答的優化，AI
想儘力學會如何在崩潰的邊緣接住人類；但真正的拯救，我想還是需要我們自己學會，關掉聊天框，去擁抱真正的現實。