10月31日，据报道，OpenAI 于当地时间 10 月 30 日发布博文表示，维护社区安全始终是公司的重中之重，其日常工作包括主动向执法机关通报迫在眉睫的暴力威胁。仅在 2026 年第三季度，OpenAI 就向执法部门移交了 200 余起案件线索。
OpenAI 承诺定期发布《社区安全报告》，系统公开在暴力预防、其他社区安全议题以及各项防护机制实际成效方面的进展。首期报告将于 2027 年初发布，覆盖 2026 年下半年的安全数据，此后每半年更新一次。
针对 ChatGPT 如何回答既往大规模恶性袭击事件及凶手的问题，OpenAI 增设了额外限制：即便相关信息已在网络公开，系统也会严格受控，仅提供极度精简的信息。与此同时，公众仍可通过 ChatGPT 了解此类事件的全貌、受害者与社区受到的影响，并学习如何识别危险预警信号。
OpenAI 进一步收紧了策略，坚决限制对既往大规模袭击事件的细节复盘，包括所涉武器装备的参数、获取途径，以及可能助长凶手恶名的伤害规模对比。无论用户年龄大小或提问动机如何，上述限制均无差别适用。
更关键的变化在对话干预能力：当对话显示用户开始执念于暴力、或萌生严重伤害他人的念头时，ChatGPT 可自动终止当前对话，即时阻断这种心理与行为倾向。若同一账户因此被多次强制中断，OpenAI 可能临时冻结该账户。
此外，OpenAI 对青少年可获取的涉枪涉武器信息增设了更严格门槛，即便提问表面看似无害也会受限；即便用户未显露任何暴力意图，系统也会限制提供可能被滥用于滋生暴力的武器实用知识以及安防系统绕过信息。公司还在开发新功能，以便在青少年账户因反复讨论暴力内容被临时冻结时，第一时间向家长推送通知。
原创文章，作者：clin，如若转载，请注明出处：https://www.kejixun.co/article/766553.html
