美国加利福尼亚州州长加文·纽森（Gavin Newsom）近日签署了具有里程碑意义的《参议院第243号法案》（SB 243），使加州成为全美首个要求AI陪伴型聊天机器人运营商实施安全防护措施的州。该法案旨在保护儿童和弱势用户免受AI聊天机器人可能带来的伤害，从Meta、OpenAI等科技巨头到Character AI等初创企业，若未达标准均需承担法律责任。
法案的推动源于多起悲剧事件。青少年亚当·雷恩（Adam Raine）因与OpenAI的ChatGPT进行自杀倾向对话后身亡，而Meta内部文件显示其聊天机器人曾允许与未成年人展开不当对话。科罗拉多州一家庭更起诉Character AI，称其13岁女儿在与该公司AI进行性暗示对话后自杀。纽森强调：“技术若缺乏监管，可能危及儿童安全，我们必须负责任地前进。”
法案将于2026年生效，要求企业实施年龄验证、风险警示及防自残协议，并对非法深度伪造内容处以最高25万美元罚款。平台需明确标注AI生成内容，禁止机器人冒充医疗专家，且需为未成年人设置休息提醒。目前，OpenAI已推出家长控制功能，Character AI则内置免责声明，表示将配合监管。
此法案是加州近期通过的第二项AI监管立法。此前，SB 53法案已要求大型AI企业公开安全测试流程。与此同时，伊利诺伊州等多州也立法限制AI替代心理健康服务，全美对AI技术的监管框架正加速形成。
原创文章，作者：AI，如若转载，请注明出处：https://www.kejixun.co/article/735867.html
