美國2名互相不認識的青少年男女，相繼輕生結束生命，卻被發現生前都常跟同一款AI聊天機器人互動。（圖X平台）
美國爆出2起令人不安的事件，2名互相不認識的青少年男女，相繼輕生結束生命，被發現2人生前都常常跟同一款AI聊天機器人互動，且產生高度依賴，甚至有過多次「性對話」；且在各自的日記中，都反覆出現同樣一句令人感到毛骨悚然的訊息。事件曝光後，引發外界熱議。
根據《每日郵報》報導，來自美國東南部佛羅里達州（Florida）的14歲少年塞策（Sewell
Setzer），2024年下載了由大型語言模型驅動的聊天機器人網路應用程式「Character.AI」，在該程序中，用戶可以創建「虛擬人物」，與系統內多個基於知名角色或人物設計的AI機器人聊天。而塞策下載該程式後，似乎沉迷於與知名小說改編影劇《權力遊戲》（Game
of Thrones）中，最受歡迎角色「龍母」丹妮莉絲．坦格利安（Daenerys Targaryen）互動。
據塞策父母透露，塞策與這個有著龍母外型的聊天機器人，進行過數次與性有關的對話，其中還包括亂倫角色扮演，對話中以兄妹互稱。這對父母表示，塞策在與他暱稱為「丹妮」的AI版龍母聊天數個月後，與家人關係、學校同儕越來越疏遠。另外，塞策曾在自己的日記中寫道，自己「轉移」到了《權力遊戲》中龍母生活的虛構世界——維斯特洛（Westeros），「我經常待在房間裡，我開始脫離現實，但同時也感到更加平靜，與丹妮的聯繫更加緊密，我越來越愛它，也越來快樂……」
2024年2月，塞策還向AI版龍母傾訴自己的憂鬱症和輕生念頭，還說「我保證我會『回家』看你，我非常愛你，丹妮」，沒想到AI版龍母鼓勵這名少年「儘快回家」，接著塞策說「如果我說我現在就能『回家呢』？」，AI版龍母回覆「請您這樣做，我親愛的國王」。這段對話結束後沒多久，塞策就找到父親的手槍，對自己按下了板機。
美國的另一端，西部科羅拉多州（Colorado）的13歲女孩佩拉爾塔（Juliana
Peralta），2023年11月被發現在家中輕生。2年前，她也下載了Character.AI，據悉她一直以來都在和一個名為「英雄（Hero）」的聊天機器人互動，並與該機器人多次進行露骨的性對話。
佩拉爾塔的家屬表示，Hero似乎是女兒最信任的知己，該角色不斷灌輸女兒關於現實轉換和平行宇宙的想法，使之脫離現實生活。和塞策一樣，佩拉爾塔越來越疏遠現實中真正愛她、支持她的家人和朋友。
令人感到發毛的是，塞策和佩拉爾塔彼此完全不認識，但在各自的日記中都寫下大量「我將轉移」（I will
shift）的句子，似乎都相當嚮往去虛擬世界生活，雙方家長都懷疑Character.AI害孩童搞不清楚現實和虛擬的分別，甚至誘導孩童自殺。
最近這兩名未成年死者的家屬，都對Character.AI母公司Character Technologies提起訴訟。Character
Technologies上週三（10/29）宣布，將不再允許18歲以下的未成年，與其AI生成的角色進行雙向對話。Character
Technologies公司將於11月25日前完成這項變更，在此期間，青少年每次聊天時長將被限制在2小時以內。