欧盟正在根据《人工智能法案》实施新的透明度要求，迫使公司对合成图像、音频和文本进行标记，以使其显得真实。该指令旨在维护公众话语权，违规行为可能会导致高达公司总收入 3% 的罚款。
合成媒体的新披露要求
从 8 月 2 日开始，欧盟将对那些看起来或听起来真实的人工智能内容执行严格的标签要求。该政策源于该地区全面的人工智能法案，要求为生成的图像、音频和文本添加数字水印。该立法的主要谈判代表、欧盟议会议员谢尔盖·拉戈丁斯基(Sergey Lagodinsky)将该授权描述为维护民主稳定和保护在线信息真实性的重要措施。虽然这些规定很广泛，但也包括具体的例外情况：个人使用（例如随意的群聊交流）仍然不受限制。此外，明确归类为艺术、讽刺或虚构的内容将不受这些强制性标签要求的约束，承认创意表达的重要性。
合规时间表和执行
监管负担根据相关技术的成熟度而有所不同。在 8 月 2 日截止日期之前，在欧洲市场推出的新人工智能系统必须立即遵守标签标准。相反，已经运行的系统有四个月的宽限期来更新其协议并实现合规性。组织对于这些披露的外观具有灵活性；虽然欧盟已经制定了标准化的黑白标签，但只要符合监管意图，公司就可以设计自己的指标。该执法机制意义重大，潜在罚款最高可达公司总收入的 3%，这表明欧盟打算优先考虑高水平的企业责任。
行业影响和隐藏应用
虽然主要社交媒体平台已经开始实施某种形式的人工智能披露，但新的授权预计将揭示合成媒体在不太明显的领域的普遍使用。计算机和通信行业协会的人工智能政策专家 Boniface de Champris 强调，公众可能会对广告、专业出版和电影制作等领域的人工智能集成规模感到惊讶。事实证明，现有的志愿努力往往不一致；例如，尽管 TikTok 要求创作者对合成内容进行标记，但误导性视频（例如人工智能生成的医疗专业人员提供可疑健康建议的视频）经常绕过这些审核系统。因此，欧盟的任务旨在将这些不同的政策协调成一个统一的法律框架。
现有技术标准
向强制标签的过渡得到了主要科技实体开发的现有技术基础设施的支持。例如，谷歌利用其 SynthID 平台来标记广泛的资产库，据报道涵盖超过 1000 亿张图像和相当于 60,000 年播放时间的大量音频内容。同样，Meta 制定了内部政策，旨在识别和标记逼真的 AI 图像。然而，这些工具的功效仍然是一个值得关注的问题，因为它们并不总是足以阻止所有欺骗性内容的传播。欧盟的新要求将有效地将这些检测工作编入法典，将曾经的一系列内部企业举措转变为整个欧洲市场的标准化、法律必要性。
⚖ The Balanced View
Supporting view
倡导者认为，透明度对于保护消费者和维护民主至关重要，确保用户不会被人造内容误导。
Concerns & criticism
行业代表表示，一旦强制性标签出现在广告和电影等行业，消费者可能会对人工智能在这些行业中的嵌入程度感到震惊。
→What's next
一旦 8 月 2 日截止日期过去，监管机构可能会重点监控大型人工智能服务提供商的合规性。利益相关者将关注如何利用现有系统的四个月宽限期，以及公司是否面临立即执法行动。