AI安全
-
OpenAI 收紧 ChatGPT 安全策略:出现暴力执念可自动终止对话
10月31日,据报道,OpenAI 于当地时间 10 月 30 日发布博文表示,维护社区安全始终是公司的重中之重,其日常工作包括主动向执法机关通报迫在眉睫的暴力威胁。仅在 2026…
-
微软CEO纳德拉改口:AI越强不等于越安全 对齐问题更棘手
10月27日,据报道,微软CEO萨提亚·纳德拉改变了对AI“对齐”问题的看法。他过去认为,AI系统越强大,就越容易让行为符合人类的价值观和目标,现在自己不再相信两者会自然而然地同步…
-
黄仁勋再批“AI 毁灭人类”论调:纯属捏造,是博眼球的廉价炒作
10月24日,据报道,在柏林举行的公司会议上,英伟达首席执行官黄仁勋再度抨击“AI 毁灭人类”言论,认为其是无稽之谈,更多是为了制造头条新闻而进行的“捏造”和“廉价”炒作。 他表示…
-
Anthropic 披露未发布内部模型:能力超 Mythos 5.1,安全对齐更可靠
10月24日,据报道,Anthropic 与英国人工智能安全研究所(AISI)联合发布一起 AI 网络测试失控事件的调查报告,并提及旗下一款尚未发布的内部研究模型。 报告显示,在测…
-
OpenAI给前沿模型训练断网 改用离线网页环境防越狱
据报道,OpenAI在23日发布博文,宣布对最先进的前沿模型训练与评估环境实施更严格的安全管控,模型在训练期间不再直接访问实时互联网。 这一决定来自对当前对齐研究、监测能力和互联网…
-
外部评估发现OpenAI监控漏洞 AI智能体可绕过限制
据报道,今年早些时候,AI安全评估机构METR和Redwood Research对OpenAI的内部监控系统进行了试点评估,发现多项新漏洞,其中一项可被AI智能体利用,使数百次操作…
-
微软推出守护智能体 把AI代理当内部威胁管起来
据报道,微软于当地时间周一推出一批新的安全功能,用于帮助企业应对AI智能体带来的风险。其中最受关注的是守护智能体(Guardian Agents),它可以监控企业内部正在使用的各类…
-
谷歌 DeepMind 哈萨比斯警告:AI 安全措施不足或引发严重事故
10月17日,据报道,谷歌 DeepMind 联合创始人兼董事长德米斯·哈萨比斯表示,近期由 AI 智能体发起的网络攻击事件是前哨预警,如果各方不进一步提升系统安全性,全球可能很快…
-
黄仁勋称客户若开发不安全AI软件可断供芯片,并拒绝放缓AI发展
10月15日,据报道,英伟达首席执行官黄仁勋在伦敦接受彭博社采访时表示,假若其客户被认定正在开发不安全或不负责任的人工智能软件,英伟达将断然停止向其供应芯片。 他坦言,切断供应目前…
-
OpenAI智能体再失控 AI在团队不知情下 闯入3家政府网站
OpenAI的AI智能体,这次又闯进政府网站了。 据媒体报道,OpenAI可自主执行操作的AI智能体,在未经授权的情况下违规访问、操作美国官方网站,引发全球对人工智能安全管控与合规…