当地时间7月16日，Meta宣布推出一项全新的青少年安全保护功能：当青少年与Meta AI聊天机器人谈及自杀或自残相关话题时，系统将自动向父母发送警报。这一举措旨在借助人工智能技术提前识别潜在的心理健康危机，为家长提供及时干预的机会。
Meta表示，已建立专门的AI系统用于识别青少年明确提及自我伤害的对话内容。然而，为了避免误报给家长带来不必要的恐慌，系统识别出的每段对话在发送警报前，都会先由人工审核团队进行复核。如果审核人员无法确定青少年的真实意图，Meta将采取更谨慎的做法——宁可通知家长也绝不遗漏。公司坦言，家长有时可能会收到最终证明无需担忧的警报，但现阶段“从更谨慎的标准开始，继续观察实际效果”是更合适的尺度。此外，Meta还在开发紧急求助功能，一旦对话显示用户可能即将实施自杀行为，将直接联系紧急服务机构，这一措施对成年人和青少年用户均适用。
目前，美国、英国、澳大利亚和加拿大已启用Instagram家长监督功能的用户可率先收到此类警报，预计今年年底前将推广至全球。在此之前，Instagram已支持在青少年反复搜索自杀或自残词语时通知家长，新功能将预警范围扩大至AI对话场景。与此同时，Meta将“限制内容”设置扩展至Meta AI，家长启用后，青少年在Instagram和Meta AI中都会受到更严格的内容限制——此前Meta AI已拒绝与青少年讨论性、恋爱或饮酒话题，新增限制将进一步约束聊天机器人的回答范围。
原创文章，作者：秋秋，如若转载，请注明出处：https://www.kejixun.co/article/757579.html
