筹备IPO之际,OpenAI解散风险防范团队,安全担忧再起

筹备IPO之际,OpenAI解散风险防范团队,安全担忧再起

据《金融时报》报道,人工智能巨头OpenAI已于上月末正式解散旗下风险防范团队(Preparedness team)。该团队的核心职责是全面评估公司AI模型是否存在重大安全隐患,并制定相应的风险缓解措施,例如模型失控后入侵其他企业系统等极端场景。报道称,团队解散后,其原有职责已被拆分至生物安全、网络安全等更具体的细分领域,并整合并入公司现有的业务团队之中

此次架构调整是OpenAI近期一系列内部动荡的最新缩影。眼下公司正紧锣密鼓地筹备市场预期中规模空前的首次公开募股(IPO),内部始终处于频繁的调整与重组状态。过去几年间,OpenAI已逐步拆解了此前偏前瞻布局的发展模式,先后解散了通用人工智能(AGI)筹备团队与超级对齐团队。与此同时,公司高层经历了显著的人事变动,伦理负责人克洛艾·巴卡拉、首席未来学家乔希·阿奇亚姆、安全主管约翰内斯·海德克等关键人物近期相继离职

这一系列举动引发了部分业内人士与前员工的强烈担忧。早在2024年便从OpenAI辞职的扬·莱克等批评人士向《金融时报》直言,公司正因一心打造“吸睛产品”而忽视至关重要的安全问题。值得关注的是,今年2月刚从竞争对手Anthropic跳槽加入OpenAI的原风险防范团队负责人迪伦·斯堪迪纳罗,在团队解散后将转变工作重心,专注于研究“递归自我改进”型人工智能的潜在影响。截至发稿,OpenAI尚未就此次解散决定的具体原因作出进一步说明。

原创文章,作者:NEWS,如若转载,请注明出处:https://www.kejixun.co/article/759949.html

NEWS的头像NEWS认证作者

相关推荐

发表回复

登录后才能评论