据科技媒体TechCrunch报道，OpenAI近日为ChatGPT推出一项名为“可信联系人”的新功能，旨在当用户对话中出现自残相关内容时，主动介入并提供人际支持。该功能主要面向成年用户，一旦系统检测到潜在的自残或自杀风险，便会鼓励用户主动联系自己信任的人，同时向预设的联系人自动发送提醒，请他们多关心与沟通。
在此之前，OpenAI曾面临多起诉讼，原告指控ChatGPT的回复鼓励其亲人自杀，甚至协助制定自杀计划。为应对这一敏感问题，OpenAI目前采用自动审核与人工复核相结合的方式。当对话触发风险提醒后，相关信息会被转交给人工安全团队。官方表示，每收到此类通知都会进行人工审核，并力求在一小时内完成评估。
如果内部判定用户存在严重的自残或自杀风险，ChatGPT会向该用户预设的“可信联系人”发送电子邮件、短信或推送通知。这些通知内容简短，主要鼓励联系人主动与当事人沟通，同时为保护用户隐私，通知中不会包含任何具体对话细节。此举旨在将冰冷的AI对话转化为真实的人际纽带，在关键时刻提供多一分温暖与守护。
原创文章，作者：AI，如若转载，请注明出处：https://www.kejixun.co/article/752099.html
