除了新增的“休息一下”提醒外，OpenAI 表示其正与专家及咨询团体合作，为 ChatGPT 制定更多的心理健康保护措施。
预计本周将推出其 GPT-5 AI 模型的 OpenAI 正在对 ChatGPT 进行更新，称这些更新将提高 AI 聊天机器人识别心理或情绪困扰的能力。
为此，OpenAI 正在与专家及咨询团队合作，改进 ChatGPT 在这些情况下的响应，使其能够在必要时提供“基于证据的资源”
近年来，多个报道突出了一些问题，他们都表示亲人在使用聊天机器人时出现了心理健康危机，而且在某些情况下，使用该聊天机器人似乎还放大了他们的妄想。
OpenAI 在 4 月份撤回了一次更新，该更新使 ChatGPT 变得过于腼腆，甚至在潜在有害的情况下也如此。当时，该公司表示，聊天机器人的“吹捧式互动可能令人不适、令人不安，并引发困扰。”
OpenAI 承认，其 GPT-4o 模型在某些情况下“未能充分识别出妄想或情感依赖的迹象”。
OpenAI 表示。“我们也知道，人工智能比以前的技术更能给人以反应灵敏和个性化的感觉，特别是对于那些在精神或情感上感到脆弱的人群，”
ChatGPT 每周的用户量已接近 7 亿，作为促进“健康使用”ChatGPT 的努力的一部分，OpenAI 也开始推出提醒功能，提示用户在与 AI 聊天一段时间后休息一下。
在“长时间会话”期间，ChatGPT 会显示一条通知：“你已经聊天了一段时间——现在是不是休息一下的好时机？”并提供“继续聊天”或结束对话的选项。
OpenAI 表示，未来将继续调整“提示何时以及如何”显示。
另一项即将推出的调整将使 ChatGPT 在“高风险”情况下的判断不那么果断。这意味着，当你问 ChatGPT“我应该和男朋友分手吗？”时，机器人会帮助你分析各种可能的选择，而不是直接给出答案。
