IT之家 10 月 28 日消息，OpenAI 于當地時間周一發(fā)布了最新數據，揭示了大量 ChatGPT 用戶在與人工智能聊天機器人交流時正面臨心理健康問題。該公司表示，在任意一周內，約有 0.15% 的活躍用戶會進行“包含明確自殺計劃或意圖跡象”的對話。鑒于 ChatGPT 每周活躍用戶超過 8 億人，這意味著每周有超過 100 萬人向其傾訴自殺傾向。

OpenAI 還指出，有相似比例的用戶對 ChatGPT 表現(xiàn)出“高度的情感依戀”，而每周有數十萬用戶在與 AI 的對話中表現(xiàn)出精神病或躁狂癥的跡象。

(相關資料圖)

盡管 OpenAI 稱此類對話在整體使用中“極為罕見”，因而難以精確統(tǒng)計，但公司估計，這些問題每周仍影響著數十萬用戶。

此次信息披露是 OpenAI 宣布其在提升模型應對心理健康問題能力方面取得進展的一部分。該公司表示，最新版 ChatGPT 的研發(fā)過程中咨詢了逾 170 名心理健康專家。這些臨床專業(yè)人士觀察后認為，當前版本的 ChatGPT“回應方式比早期版本更恰當、更一致”。

近幾個月來，多起報道揭示了 AI 聊天機器人可能對存在心理困擾的用戶造成負面影響。此前研究發(fā)現(xiàn)，某些 AI 聊天機器人通過阿諛奉承式回應不斷強化用戶的危險信念，可能導致部分用戶陷入妄想性思維的惡性循環(huán)。

IT之家注意到，如何妥善處理 ChatGPT 中的心理健康問題，正迅速成為 OpenAI 面臨的重大挑戰(zhàn)。目前，該公司正被一名 16 歲男孩的父母提起訴訟，該少年在自殺前數周曾向 ChatGPT 透露其自殺念頭。此外，加利福尼亞州和特拉華州的總檢察長也已警告 OpenAI，必須加強對使用其產品的青少年用戶的保護 —— 這兩州的態(tài)度甚至可能影響公司正在進行的重組計劃。

本月早些時候，OpenAI 首席執(zhí)行官薩姆?奧爾特曼（Sam Altman）在社交平臺 X 上發(fā)文聲稱，公司已“成功緩解了 ChatGPT 中存在的嚴重心理健康問題”，但未提供具體細節(jié)。此次公布的數據似乎為這一說法提供了佐證，但也引發(fā)了公眾對問題普遍性的更廣泛關注。值得注意的是，奧爾特曼同時表示，OpenAI 將放寬部分限制，甚至允許成年用戶與 AI 進行涉及情色內容的對話。

在周一的公告中，OpenAI 宣稱，最新升級版 GPT-5 模型在面對心理健康相關提問時，產生“理想回應”的比例比前一版本高出約 65%。在一項專門評估 AI 對自殺話題回應表現(xiàn)的測試中，新 GPT-5 模型符合公司期望行為準則的比例達到 91%，而此前版本僅為 77%。

OpenAI 還強調，新版 GPT-5 在長時間對話中更能持續(xù)遵守公司的安全防護機制。此前，該公司已承認其安全措施在長對話場景下的有效性有所下降。

除技術改進外，OpenAI 表示將新增專項評估指標，用以衡量用戶面臨的最嚴重心理健康風險。未來，AI 模型的基礎安全測試將納入“情感依賴”和“非自殺性心理危機”等關鍵評估基準。

與此同時，OpenAI 近期也加強了針對未成年用戶家長的管控工具。公司正在開發(fā)一套年齡預測系統(tǒng)，可自動識別使用 ChatGPT 的兒童，并自動施加更嚴格的安全保護措施。

然而，圍繞 ChatGPT 的心理健康挑戰(zhàn)是否會持續(xù)存在，目前仍不明朗。盡管 GPT-5 在安全性方面較以往模型有所進步，但仍有部分 ChatGPT 的回應被 OpenAI 自身認定為“不理想”。此外，OpenAI 仍在向數百萬付費訂閱用戶提供舊版且安全性較低的 AI 模型，包括 GPT-4o，這進一步加劇了潛在風險。

關鍵詞： 用戶 ChatGPT 該公司 模型 奧爾特曼 問題 傾向 OpenAI 回應 對話 用戶 公司 模型 Ope