本周二，ChatGPT的开发者OpenAI分享了其产品将做出的一系列具体改进，旨在更恰当地识别和回应用户中出现的心理和情感困扰迹象。
该公司在一篇博客文章中表示：“最近，一些处于严重危机中的人们使用ChatGPT的案例令人心碎，这让我们深感沉重。我们认为，现在有必要分享更多相关信息。”
OpenAI在该博文中表示，即将到来的更新将帮助人们回归现实，即便他们尚未表现出明显的自残迹象。该公司还在探索如何在用户陷入严重危机之前，就将他们与心理治疗师联系起来。这与当前模型的工作方式有着重要区别：目前，当用户表达自残意图时，AI只会建议其联系自杀干预热线。
在用户明确提及自残或其他令人痛苦的情况之前，可能已经有许多信号，而通过早期干预本可以遏制这些情况的发生。
OpenAI举了一个例子：有人说自己连续两晚没睡后，可以昼夜不停地开车，因为感觉自己所向无敌。当前的大语言模型可能不会将此识别为一个问题，甚至可能会强化这种想法。而OpenAI表示，他们正在为一个更新版本进行开发，该版本将能够解释睡眠不足的危险性，并建议用户休息。
OpenAI还表示，正在探索让用户通过ChatGPT联系其紧急联系人的方法，并将引入家长控制功能。
ChatGPT未来能否实时、准确地回应心理健康问题的信号还有待观察，但OpenAI及其他AI公司正在积极应对人们所遇到的问题。
via 匿名
