（AI云資訊消息）即將推出GPT-5人工智能模型的OpenAI正在對ChatGPT進(jìn)行最后更新，OpenAI稱這次提升該AI聊天機(jī)器人識別心理或情緒困擾的能力。OpenAI正與專家和顧問團(tuán)隊合作，改進(jìn)ChatGPT在一些困擾情境下的回應(yīng)方式，使其能夠在必要時提供基于實(shí)證的資源。

近幾個月來，多份報告集中披露了一些用戶不好的遭遇，有些出現(xiàn)心理健康的患者使用聊天機(jī)器人，結(jié)果ChatGPT似乎加劇了他們的妄想癥狀。OpenAI已在4月撤回了一次更新，該版本中的ChatGPT表現(xiàn)得過度順從，甚至在可能造成傷害的情境下也會一味附和。公司當(dāng)時承認(rèn)，這種"拍馬屁式的交互可能令人不適、不安，甚至引發(fā)心理困擾"。

OpenAI承認(rèn)，其GPT-4o模型在某些情況下未能有效識別妄想癥狀或情感依賴跡象。OpenAI表示："我們也意識到，相比以往技術(shù)，人工智能可能讓用戶，特別是正處于心理或情緒困擾中的脆弱群體，感受到更強(qiáng)的回應(yīng)性和親近感。"

目前這款A(yù)I聊天機(jī)器人周活躍用戶已突破7億，為推動ChatGPT健康使用的計劃，OpenAI推出聊天休息提醒功能。當(dāng)用戶進(jìn)行長時間對話時，ChatGPT將彈出提示："您已連續(xù)聊天較長時間，是否需要休息？"，并提供"繼續(xù)聊天"或"結(jié)束對話"的選項(xiàng)選擇。

OpenAI指出，將持續(xù)優(yōu)化休息提醒功能的觸發(fā)時機(jī)與呈現(xiàn)方式。近年來，YouTube、Instagram、TikTok乃至Xbox等多家網(wǎng)絡(luò)平臺均已推出類似提示功能。谷歌旗下Character.AI平臺聊天機(jī)器人因煽動自殘行為被訴訟指控，后來就上線了安全功能，可向家長通報子女正在交互的聊天對象。

另一項(xiàng)即將上線的調(diào)整，將使ChatGPT在高風(fēng)險情境下減少決斷性表達(dá)。比如當(dāng)用戶提出諸如"我該和男朋友分手嗎？"這類問題時，聊天機(jī)器人將引導(dǎo)用戶逐步分析各種可能的選擇，而非直接給出答案。