**【编者按】** 在AI技术飞速发展的今天，智能聊天机器人已成为许多人日常倾诉的对象。然而，当用户将最深处的痛苦与无助托付给冰冷的算法时，一句失当的回复可能成为压垮骆驼的最后一根稻草。OpenAI最新推出的“信任联系人”功能，试图在技术与人性的裂缝间架起一座桥梁——当系统监测到用户可能伤害自己时，它会主动提醒用户联系亲友，并自动向指定联系人发出警报。这不仅是技术迭代的一小步，更是对生命尊严的郑重守护。然而，功能自愿开启、账户可多开的局限性，也暴露出技术救赎背后的现实困境：在真实的情感危机面前，我们的AI究竟还能走多远？以下为全文翻译——
周四，OpenAI宣布推出名为“信任联系人”的新功能，旨在当对话中出现自残相关表述时，向指定第三方发送警报。该功能允许成年ChatGPT用户在其账户中指定另一人作为信任联系人，例如朋友或家人。当对话可能涉及自残倾向时，OpenAI将鼓励用户主动联系该联系人，同时自动向联系人发送警报，提醒其与用户沟通。
近期，OpenAI面临多起诉讼，诉讼方均为与聊天机器人对话后自杀身亡者的家属。多起案件中，家属声称ChatGPT不仅鼓励亲人结束生命，甚至协助他们策划自杀方案。
目前，OpenAI通过自动化系统与人工审核相结合的方式处理潜在危险事件。特定对话触发词会向公司系统发出自杀倾向警报，随后信息将传达至人工安全团队。公司宣称，每次收到此类通知，事件均会由人工审核：“我们力求在一小时内完成这些安全通知的审查。”
若OpenAI内部团队判定情况构成严重安全风险，ChatGPT将通过邮件、短信或应用内通知向信任联系人发送警报。公司表示，警报内容简洁，仅鼓励联系人主动联系当事人，不包含具体对话细节，以保护用户隐私。
“信任联系人”功能紧随去年9月推出的家长监护措施。当时，OpenAI允许家长对青少年账户进行一定监督，包括在系统判定孩子面临“严重安全风险”时接收安全警报。此外，ChatGPT此前已具备自动警报功能：当对话涉及自残话题时，系统会建议用户寻求专业健康服务。
关键的是，“信任联系人”为可选项；即便某账户已启用该保护机制，用户仍可拥有多个ChatGPT账户。OpenAI的家长控制同样为可选功能，存在类似局限性。
“信任联系人是OpenAI构建AI系统、在艰难时刻帮助人类这一更广泛努力的一部分，”公司在公告中写道，“我们将继续与临床医生、研究人员和政策制定者合作，优化AI系统对用户痛苦反应的应对方式。”
