源镜研究丨欧盟AI新规生效:聊天机器人须“亮明身份”

文章作者:张    微   北京源镜律师事务所 实习律师
指导律师:骆慧超  北京源镜律师事务所主任合伙人  数字经济和人工智能专委会委员 刑事研究委员会委员


2026年8月2日起,欧盟《人工智能法》第50条透明度要求正式进入执行阶段。这是继2025年2月禁止不可接受风险AI实践后,该法案落地的第二个重要实施节点。聊天机器人、语音助手等交互式AI系统必须在与用户互动时明确告知其AI身份;深度伪造的图片、视频、音频等内容须进行标识并添加机器可读标记。本文梳理核心规则、处罚机制及首批签署行为准则的企业动态,供有欧盟市场业务布局的企业参考。

图片由AI生成

一、立法背景

(一)立法历程

欧盟《人工智能法》(Regulation (EU) 2024/1689)的立法进程始于2021年4月,欧盟委员会首次提出该法案草案。经过近三年的立法审议与谈判,2024年3月13日,欧洲议会以523票赞成、46票反对的投票结果正式通过该法案,同年6月签署,7月12日在欧盟官方公报发布,并于8月1日正式生效,成为全球首部全面性的人工智能监管法律。

(二)分阶段实施机制

该法案采用分阶段实施机制,具体时间节点如下:

2025年2月2日起:禁止社会信用评分、公共场所实时生物识别监控等”不可接受风险”的人工智能实践;

2026年8月2日起:透明度规则正式适用(即本次生效的义务);

2027年12月2日起:独立高风险AI系统(涉及生物识别、关键基础设施、教育、就业等领域)的相关义务正式适用;

2028年8月2日起:作为安全组件并受欧盟部门立法管辖的AI系统相关义务适用。

(三)执行机构

欧盟委员会于2024年5月29日宣布成立人工智能办公室(AI Office),由约140名技术专家、律师和经济学家组成,负责协调《人工智能法》的实施,包括对AI模型进行评估、要求提供商提供信息以及实施制裁措施等。

二、透明度义务的核心要求

根据欧盟委员会2026年7月31日公布的执行指引,《人工智能法》第50条项下的透明度义务主要涵盖以下四个方面:

(一)交互式AI系统须”亮明身份”

聊天机器人、语音助手等直接与人类交互的AI系统,必须在设计上确保用户能够意识到自己正在与AI而非真人进行沟通。这意味着AI对话界面不能再偷偷冒充真人,无论是文字聊天、语音通话还是视频交互,首次接触时就须明确提示”我是AI”。AI拼写检查、语法纠正工具等不涉及拟人化交互的功能,可以豁免。

(二)深度伪造内容须强制声明与标识

利用AI生成或编辑的深度伪造(Deepfake)图片、视频、音频等内容,发布者必须以显眼方式声明该内容由AI生成或修改。所谓”显眼”,是指标注位置、字体、展示时长须足以让普通用户在正常浏览条件下注意到,而非隐藏在页面底部或用户协议中。

(三)机器可读标识须嵌入内容

AI生成或修改的内容,除人眼可见的声明外,还须添加机器可读的标记(如水印、元数据等),以便第三方工具或平台能够通过技术手段自动检测并识别该内容的AI来源。SynthID等数字水印技术是满足此项要求的典型方案。

(四)涉公共利益内容的特殊标注义务

如AI生成的文本旨在向公众提供涉及”公共利益”的信息(如新闻报道、政策解读等),须明确标注该内容为AI生成。纯幻想类内容(如”自由飞行的人类”)不在深度伪造规制范围内。

三、过渡期安排与覆盖范围

对于2026年8月2日前已投入使用的生成式AI系统,可获得至2026年12月2日的整改过渡期。需注意的是,过渡期仅针对存量系统适用,8月2日之后新上线的AI产品需直接满足全部透明度要求。

四、首批透明度行为准则签署方公布

2026年7月31日,欧盟委员会公布了首批签署《人工智能生成内容透明度行为准则》的180多家机构名单。该准则旨在推动落实《人工智能法》关于AI生成内容透明度的相关规定,属于行业自律与法定合规的衔接机制。

签署方包括谷歌、微软、OpenAI、亚马逊、Anthropic、Mistral AI、IBM等主要科技公司。值得关注的是,Meta拒绝加入该准则。

谷歌在签署后表示,将继续推广SynthID数字水印技术,并与苹果、ElevenLabs、Kakao、英伟达、OpenAI等第三方AI机构合作,推动全行业采用基于SynthID的可互操作水印工具。但同时,谷歌对监管复杂度上升表示担忧,认为在技术解决方案仍处于演进阶段的当下,过度复杂的监管规定可能与欧洲追求竞争力及简化流程的目标背道而驰,并可能使本应受保护的公众因层出不穷的AI标签而感到困惑。

五、违规处罚机制

根据《人工智能法》,违反透明度义务的企业,将面临最高750万欧元的行政罚款;若违规者为大型企业,罚款额可提高至上一财政年度全球年营业总额的1%,二者取较高值。违反禁止性AI实践条款的,最高可处3500万欧元或全球年营业额7%的罚款。

需要指出的是,透明度条款的处罚力度虽然低于禁止性条款,但其合规难度不容低估。跨产品线的标识一致性、多模态内容的机读标记嵌入、存量系统的限期整改,对企业合规体系与技术架构均是实质性考验。

六、对中国企业的启示

对于有意拓展欧洲市场的中国AI企业,建议重点关注以下三点:

第一,尽快完成产品线排查与合规差距分析。 区分交互式AI与工具类AI、存量系统与新产品,明确各类产品的合规路线图与时间表,特别是8月2日之后新上线的产品须直接满足全部透明度要求。

第二,关注标识技术标准与行业实践。 国内目前尚缺乏类似SynthID的成熟数字水印技术方案,企业需关注欧盟的技术规范更新,提前做好技术储备或与第三方技术提供商对接。

第三,区分策略与合规底线。 Meta的”拒绝加入”与谷歌的”加入+表达担忧”代表了两种不同的应对策略。对于多数企业而言,在合规框架内参与规则制定、与技术演进同步调整,可能比游离于规则之外更具长期竞争优势。

结语

欧盟《人工智能法》透明度要求的正式执行,标志着全球AI监管从”原则宣言”迈入”规则落地”的新阶段。无论是聊天机器人的身份披露,还是深度伪造的强制标识,其共同指向是:在AI深度嵌入信息环境的时代,公众有权知道自己在和谁对话、看到的内容是否真实。 对于中国企业而言,这既是出海欧洲的合规门槛,也是在全球AI治理规则形成过程中积累经验、参与对话的契机。

参考文献:

[1] 《人工智能法》(Regulation (EU) 2024/1689)第50条
[2] 央视新闻:《欧盟8月2日起执行《人工智能法》相关规定 新增AI透明度要求》,2026年7月31日https://news.cctv.com/2026/07/31/ARTItFt550LPTCOENGi4IQQA260731.shtml


免责声明:本文基于欧盟委员会官方公告及相关公开报道整理,不构成具体法律意见。如需就特定事项获取法律建议,请与本所专业律师联系。