昨日，在第22届中国网络安全年会上，国内首次针对AI大模型的实网众测结果正式发布，揭示了当前大模型面临的安全挑战。本次活动由中央网信办网络安全协调局指导，国家计算机网络应急技术处理协调中心主办，吸引了559名白帽子参与，涵盖企业专家、高校师生及社会安全爱好者，对15款主流大模型产品进行了多维度测试。
测试结果显示，累计发现281个安全漏洞，其中177个为AI大模型特有漏洞，占比高达60%。这表明传统安全防护手段已难以应对新兴风险。典型漏洞包括：不当输出类漏洞危害严重、信息泄露类隐患突出、提示注入类漏洞最为普遍，以及无限制消耗攻击防护不足等问题。值得注意的是，腾讯混元大模型、百度文心一言、阿里通义App等产品因漏洞数量较少，展现出较高的安全防护水平。
在测试过程中，梁宏宇、马宝新等白帽子表现突出，成功挖掘出多个高危漏洞。对此，官方提出四点治理要求：强化安全防护措施、建立漏洞分类标准、构建众测共治生态、推进全生命周期安全管理。专家强调，随着AI应用场景深化，需持续加强技术防护与标准建设，以应对不断演变的攻击手法。
原创文章，作者：AI，如若转载，请注明出处：https://www.kejixun.co/article/733982.html
