European Union Mandates Labels for Realistic AI-Generated Content

8월 2일부터 유럽 연합은 진짜처럼 보이거나 들리도록 설계된 인공 지능 콘텐츠에 대해 엄격한 라벨링 의무를 시행할 예정입니다. 이 지역의 포괄적인 AI법에 따라 이 정책은 생성된 이미지, 오디오 및 텍스트에 디지털 워터마킹을 요구합니다. 법안의 핵심 협상가인 EU 의회 의원인 세르게이 라고딘스키(Sergey Lagodinsky)는 이 명령이 민주적 안정성을 유지하고 온라인 정보의 진정성을 보존하기 위한 중요한 조치라고 설명했습니다. 규정은 광범위하지만 특정 분할이 포함됩니다. 즉, 일상적인 그룹 채팅 교환과 같은 개인적인 사용은 여전히 ​​면제됩니다. 또한 예술적, 풍자적, 허구적이라고 명확하게 분류된 콘텐츠에는 창의적인 표현의 중요성을 인정하는 이러한 필수 라벨링 요구 사항이 적용되지 않습니다.

규제 부담은 해당 기술의 성숙도에 따라 다릅니다. 유럽 ​​시장에 출시되는 새로운 AI 시스템은 8월 2일 마감일 즉시 라벨링 표준을 준수해야 합니다. 반대로, 이미 운영 중인 시스템에는 프로토콜을 업데이트하고 규정 준수를 달성하기 위한 4개월의 유예 기간이 부여됩니다. 조직은 이러한 공개의 표시에 대해 유연성을 갖습니다. EU는 표준화된 흑백 라벨을 개발했지만 기업은 규제 의도를 충족하는 경우 자체 지표를 디자인할 수 있습니다. 집행 메커니즘은 중요하며, 잠재적인 벌금은 회사 총 수익의 최대 3%에 달할 수 있습니다. 이는 EU가 높은 수준의 기업 책임을 우선시할 계획임을 나타냅니다.

주요 소셜 미디어 플랫폼은 이미 어떤 형태로든 AI 공개를 구현하기 시작했지만, 새로운 의무는 눈에 잘 띄지 않는 부문에서 합성 미디어의 광범위한 사용을 드러낼 것으로 예상됩니다. 컴퓨터 통신 산업 협회의 AI 정책 전문가인 Boniface de Champris는 광고, 전문 출판, 영화 제작과 같은 분야에서 AI 통합의 엄청난 규모에 대중이 놀랄 수도 있다고 강조했습니다. 기존의 자발적인 노력은 종종 일관성이 없는 것으로 나타났습니다. 예를 들어, 제작자가 합성 콘텐츠에 라벨을 지정하도록 하는 TikTok의 요구 사항에도 불구하고 의심스러운 건강 조언을 제공하는 AI 생성 의료 전문가가 등장하는 동영상과 같은 오해의 소지가 있는 동영상은 이러한 조정 시스템을 우회하는 경우가 많습니다. 결과적으로, EU 권한은 이러한 서로 다른 정책을 통일된 법적 틀로 조화시키려고 합니다.

필수 라벨링으로의 전환은 주요 기술 기업이 개발한 기존 기술 인프라를 통해 지원됩니다. 예를 들어 Google은 SynthID 플랫폼을 활용하여 광범위한 자산 라이브러리에 태그를 지정했으며, 이는 1000억 개가 넘는 이미지와 60,000년 재생에 해당하는 엄청난 양의 오디오 콘텐츠를 포함하는 것으로 알려졌습니다. 마찬가지로 Meta는 사실적인 AI 이미지를 식별하고 태그를 지정하도록 설계된 내부 정책을 수립했습니다. 그러나 이러한 도구의 효율성은 모든 사기성 콘텐츠의 유포를 차단하는 데 항상 충분하지 않기 때문에 여전히 면밀한 조사 대상으로 남아 있습니다. EU의 새로운 요구 사항은 이러한 탐지 노력을 효과적으로 성문화하여 한때 일련의 내부 기업 이니셔티브였던 것을 유럽 시장 전반에 걸쳐 표준화된 법적 필요성으로 전환할 것입니다.