苹果更新 App 审核指南,AI 深度伪造内容迎来最严审核

10月17日,据报道,苹果更新《App 审核指南》,在最新修订的 1.2 条款中加强治理针对 AI 内容创作类应用,将 AI 生成的、未经当事人同意的私密图像明确纳入禁止范围。

苹果更新 App 审核指南,AI 深度伪造内容迎来最严审核

修订后的 1.2 条款要求,包含用户生成内容或社交网络服务的 App 必须采用相应方法过滤令人反感的内容,建立举报攻击性内容的机制并在出现问题时及时回应,对发布攻击性内容的用户可取消其使用服务资格,同时公布联系信息以便用户与开发者沟通。

科技媒体 9to5Mac 指出,此次调整的直接背景是近一年围绕 App Store 的多起争议。科技透明度项目曾发现数十款 AI 裸体化应用,并指出 App Store 的搜索建议和广告也会把用户导向这类应用,旧金山官员随后要求苹果下架 8 款可生成未经同意私密图像的应用。

此外,用户曾投诉 xAI 的 Grok 聊天机器人被用于制作裸露或性化深度伪造图像。今年早些时候,苹果曾警告 xAI,若继续放任此类内容,将把 Grok 从 App Store 下架,xAI 随后增设防护机制,更新版本才获得批准。

苹果还新增 2.5.19 条准则,禁止应用在审核时隐瞒真实功能、通过后再加入裸露化等有害能力。这类先过审、后解锁的做法被称为诱饵式营销,今后可能导致应用下架,开发者也可能被终止 Apple Developer Program 资格。

此外,苹果将禁止助长人口贩卖或剥削儿童的应用的范围扩展至替代应用分发渠道,并表示对违规应用和开发者不会犹豫采取下架或终止合作等措施。

原创文章,作者:科技观察者,如若转载,请注明出处:https://www.kejixun.co/article/764966.html

科技观察者的头像科技观察者管理团队

相关推荐

发表回复

登录后才能评论