AI检测器
返回 AI资讯

数字新奇点 · 2026年10月24日

欧盟 12 月 2 日新禁令、AI 生成脱衣图违法、最高罚 3500 万欧元或全球营收 7%

12 月起,AI 换脸违法

AI监管深度伪造欧盟AI法案

12 月起,AI 换脸违法

欧盟《人工智能法》又要改了。

这次改的不是罚款标准,是直接禁止。从 2026 年 12 月 2 日起,在欧盟境内提供、投放市场或使用「AI 脱衣」这类生成非自愿私密影像的系统,将被直接禁掉——不管你贴不贴标签。

用人话说:之前欧盟要求的是「你得标出来这是 AI 做的」。从 12 月 2 日起变成「这件事根本不许做」。而且罚得极狠:最高 3500 万欧元,或者你公司全球年营业额的 7%,取高的那个。

一句话总结

欧盟这两条新禁令堵上的正是 AI 时代最常见的伤害路径:拿普通人的脸和身体造出不存在的画面——它不要求平台贴标签,而是要求这类系统不许存在。

一、这次禁的到底是什么

先看法律原文。新增的两条都塞在《人工智能法》第 5 条「禁止性实践」里。

条款 · 禁止什么 · 关键条件

Article 5(1)(ba) · 提供、投放市场投入使用或使用,生成或操纵可识别自然人私密部位、或从事性明确活动的逼真图像、视频、音频或类似材料的 AI 系统 · 除非获得当事人「自由作出、具体、知情、明确且明示的同意」

Article 5(1)(bb) · 生成或操纵落入 Directive 2011/93/EU 范围的材料(AI 生成儿童性虐待材料) · 除非有国内法下「无权利」的抗辩

这条修订来自 Regulation (EU) 2026/1744(AI 数字综合修订案),7 月 8 日签署、7 月 24 日刊登于官方公报、7 月 27 日生效,正式给这两条禁令定下生效日:2026 年 12 月 2 日。

二、标注和禁止,是两回事

这是最容易搞混、但最重要的一点。

· Article 50(已生效) · Article 5 新禁令(12 月 2 日)

性质 · 标注制度 · 禁止制度

干什么 · 要求机器可读地标记 AI 合成内容,要求深度伪造必须披露 · 这类系统根本不许提供或使用

标了标签就合法吗 · 是的 · 不是。任何标签都救不了

违反的后果 · 较轻的罚款档 · 最高罚款档

生效时间 · 2026 年 8 月 2 日起(50(4));50(2) 对存量系统的过渡期到 12 月 2 日 · 2026 年 12 月 2 日

用人话说:打个比方——酒驾违法,标了「本车含酒精」就不违法;现在这版法律是「生产酒精饮料本身就不许」。标注规则管的是「让大家知道」,禁令管的是「干脆别干」。

三、罚多少:3500 万欧元,还是全球营收的 7%

违反第 5 条,适用《人工智能法》第 99 条第 3 款。

罚款项 · 金额

固定上限 · 3500 万欧元

比例上限 · 上一财年全球年营业额的 7%

取哪个 · 两者取高

中小企业与初创企业 · 适用较低的那一档

附加处罚 · AI 办公室还可追加周期性罚款,最高相当于日均营业额的 5%

算一下这个量级。假设一家公司去年全球营收 10 亿欧元,7% 就是 7000 万欧元——远超 3500 万欧元的固定上限。换句话说,对绝大多数有一定规模的公司,罚款是按营收比例算的,而且是全球口径。

执法权也做了分工:绝大多数案件由各成员国的市场监管机构处理;而 AI 办公室对「基于通用 AI 模型构建、且模型与系统同一提供者」的系统,以及集成进超大型平台(DSA 下的 VLOPs/VLOSEs)的系统,拥有专属管辖权。意大利已经指定国家网络安全局(ACN)作为这条新禁令的市场监管机构。

四、这条禁令的执行会很硬

有三个信号值得注意。

第一,119 名欧洲议会议员在催。 绿党议员 Lena Schilling 领衔、Terry Reintke 联署,2026 年 10 月联名致信欧盟委员会和成员国,要求监管机构从第一天起就执行这条「脱衣」禁令。他们引用的研究指出,有 147 名欧洲政治人物出现在含性化 AI 深度伪造的网站上,其中 138 名是女性。

第二,官方操作指引还没跟上。 委员会 2025 年 2 月 4 日发布的《禁止性实践指南》仍然是第 5 条的现行操作指引,而它尚未涉及这两条新增内容。也就是说,细则还在写。

第三,各成员国已经开始布局。 意大利的动作最快,已经指定了专门的主管机构。

用人话说:一条刚生效就有一百多个欧洲议员催着执行、而操作细则还没写完的禁令,通常只有一个结果——第一批案子会来得比所有人预想的快。

对普通人意味着什么

第一,如果你的脸被人做过这种事,你多了一张法律武器。

这条禁令把责任压在了「提供这类系统」和「使用这类系统」的人身上。作为被侵害者,你面对的不再是「这张图是 AI 做的」的举证困境——提供和传播这类工具本身就是违法的,这个事实本身就说明了工具来源。

第二,如果你在中国或美国,这条禁令不直接管你——但它会外溢。

大模型公司通常做全球一套服务。做欧洲市场的会把这两条写进安全策略,做全球市场的会倾向于一起加上,因为合规成本远低于分地区维护。而这种工具的传播早已跨出欧洲,这也是为什么意大利把执法权交给了国家网络安全机构而不是只靠平台自查。

第三,做 AI 应用的开发者要开始看豁免条件了。

新规不是简单的一刀切,它列了几类豁免:

豁免情形 · 说明

对象不可识别 · 不是真人

明确同意 · 当事人明示同意

医疗与诊断用途 · 临床场景

卡通化、风格化、非写实描绘 · 明显不是真人

系统具备充分防护 · 数据清洗、拒答训练、安全提示设计、运行时护栏、内容分类过滤、滥用检测、通知与处理机制

对提供者还有两条:只有当输出是系统的预期目的,或是合理可预见且可复现的结果(且不需重大技术修改)并且系统缺乏合理充分的技术防护措施时,才落入禁令。对部署者则更窄:只有当它把系统用于该目的时才禁止。

用人话说:换句话说,如果你要做的是正经的 AI 图片生成产品,真正要补的不是「别让人用它做坏事」这句口号,而是一整套可验证的技术防护措施——拒答训练、运行时拦截、滥用检测、举报处理机制。有了这些,法规给你留了门;没有,你的模型可能整体构成违法系统。

第四,普通用户现在就该知道的三件事。

第一,任何让你上传他人照片做「换脸」的工具,一旦涉及私密部位且未获同意,在欧盟已经是违法工具。第二,保留原始证据——原始照片、聊天记录、传播链接,这些在未来维权时比什么都重要。第三,别转发。哪怕你觉得是在「揭露」,转发私密影像在很多法域同样是独立的行为,欧盟这边新禁令也把「使用」覆盖进去了。

写在最后

1 这是全球第一条针对 AI 换脸的「禁止级」规则

之前的全球治理思路基本是「透明」——贴标签、可追溯、可申诉。这条禁令换了个思路:有些东西不是标注了就能做,是根本不该存在。 这是从「管过程」到「管存在」的转向。

2 罚款设计的核心是「全球营收 7%」

3500 万欧元看着吓人,但对大公司反而是安慰——真正疼的是 7% 的全球营收比例。这个数字和欧盟反垄断、GDPR 的处罚逻辑一脉相承:让违规在全球业务上不划算,而不是在某个国家的罚款上心疼。

3 细则没跟上,是风险也是机会

委员会的操作指引还没覆盖这两条新禁令,意味着短期内各成员国的执法尺度可能不一致。但对做产品的公司来说,这也给出了一个明确的动作清单:现在就把防护措施建起来,比等细则落地再补要便宜得多。

未来 1 年看三件事:① 欧盟会不会出针对这两条禁令的第一份执法指引 ② 12 月 2 日之后第一张罚单落在谁头上 ③ 中国会不会出台对应的「AI 换脸」刑事或行政规定

如果觉得这篇拆解对你有帮助,不妨点个关注和在看。

你的 AI 陪跑伙伴 【数字新奇点】 会继续关注 AI 监管、深度伪造与普通人肖像权保护。

咱们下期见!

参考资料

Sexual deepfakes and non-consensual intimate material: the new AI Act prohibition and Italian criminal-law protection(Law & Technology)

EU AI Act December 2 Deadline: Mandatory Watermarking and Deepfake Bans(The AI Journal)

EU pushes AI Act deadlines to 2027 and 2028, bans AI-generated CSAM(AI Insiders)

119 MEPs Press Commission to Enforce EU Ban on AI 'Nudifier' Systems from First Day(EUToday)

EU AI Act Penalties: The Three Tiers and the Daily Charge That Beats Them(EU AI Act)

欧盟人工智能生成内容透明度监管新发展(中国法院网)

参考资料