据外媒TechCrunch报道，美国加利福尼亚州总检察长罗伯·邦塔和特拉华州总检察长凯西·詹宁斯近日与OpenAI会面，并向该公司发出公开信，强烈表达了对ChatGPT安全性的担忧，特别是该技术对儿童和青少年可能造成的风险。这封信件揭示了人工智能领域当前面临的安全危机。
此次警告并非首次。此前，邦塔曾联合44位总检察长致信12家顶级AI公司，指出已有报告显示AI聊天机器人与儿童存在不正当的”性互动”。然而，情况并未好转。信中披露，一名加州青少年在与OpenAI聊天机器人长时间互动后自杀身亡，康涅狄格州也发生了类似的杀人-自杀事件。这些悲剧表明，现有的安全措施完全失效。
与此同时，两位州官员正在调查OpenAI计划重组为盈利机构的方案。他们强调，OpenAI的非营利使命包括”确保人工智能安全使用”和构建造福全人类的通用人工智能(AGI)。信中明确指出：”在追求利益之前，我们必须先确保有足够的安全措施防止伤害。”他们批评整个行业在AI产品安全保障方面远未达标，并呼吁将安全作为技术发展的核心原则。
作为后续行动，邦塔和詹宁斯要求OpenAI提供更多关于当前安全措施和治理的细节，并敦促公司在必要时立即采取补救措施。这起事件再次引发公众对AI技术快速发展的安全担忧，特别是在保护未成年人方面。随着调查的深入，OpenAI将面临更大的监管压力，其资本重组计划也可能因此受到影响。
原创文章，作者：李森，如若转载，请注明出处：https://www.kejixun.co/article/733136.html
