近日，网络安全领域曝出重大风险，科技媒体Android Headline报道称，网络安全公司Radware发现ChatGPT的”深度研究”功能存在严重漏洞。该功能本用于分析Gmail、Google Drive等应用中的信息，却被黑客利用特制邮件诱导系统将用户敏感数据传送至恶意网站，可能导致姓名、地址等隐私信息泄露。
与传统攻击方式不同，此次事件的特殊性在于AI系统本身被操纵成为数据窃取工具。Radware指出，攻击需要满足多个特定条件，包括用户查询主题与恶意邮件内容精确匹配，且整个攻击链条设计复杂。这种通过AI代理反向窃取数据的新型攻击手段，在以往安全案例中极为罕见，给防御工作带来全新挑战。
更令人担忧的是，常规安全防护工具几乎无法检测这类攻击。由于数据外泄的源头是OpenAI服务器而非用户终端，即使本地防护系统运行正常，也难以阻止敏感信息传输。这种服务器端发起的隐蔽攻击模式，显著增加了安全防御的难度和技术门槛。
OpenAI在8月获知漏洞后迅速采取修复措施，并于9月公开确认此事。公司发言人强调，模型安全始终是首要任务，同时欢迎外部研究团队帮助改进技术。此次事件再次引发业界对AI系统安全性的关注，特别是在处理用户敏感数据时的防护机制需要进一步加强。
原创文章，作者：泡沫大盗，如若转载，请注明出处：https://www.kejixun.co/article/734210.html
