AI 생성물 표시: «AI 생성» 라벨 추가와 확인

Meta는 편집기가 기록하는 IPTC «디지털 소스 유형» 필드와 C2PA 서명을 읽습니다. 생성형 채우기, 배경 확장, 하늘 교체는 «AI로 생성한 부분이 있는 이미지»로 기록되며, AI가 아주 작은 영역만 건드려도 라벨이 붙습니다. «파일 확인» 모드에서 어느 필드 때문인지 정확히 볼 수 있습니다. 이 도구는 다른 사람의 라벨을 지울 수 없으며 지우지도 않을 것입니다.

나라와 목적에 따라 다릅니다. EU에서는 AI Act 제50조에 따라 실재하지 않는 사람, 장소, 사건을 담은 사실적인 딥페이크를 직업적으로 게시하는 사람은 그 사실을 밝혀야 합니다. 비직업적인 개인 용도는 이 규정의 대상이 아니며, 예술 작품의 경우 표시가 감상을 방해해서는 안 됩니다. 중국에서는 CAC 규정과 GB 45438-2025가 표시를 요구하고, 한국에서는 그 의무가 AI 서비스에 있습니다. 러시아에서는 연방법 243-FZ에 따라 표시는 의무가 아니라 권리입니다. 이는 일반 정보이며 법률 자문이 아닙니다.

보이는 라벨은 남습니다: 픽셀이나 소리에 들어 있기 때문입니다. 메신저는 보통 재압축하면서 메타데이터와 C2PA 서명을 지우므로, 메신저로 게시할 때는 메타데이터 기록보다 보이는 라벨이 더 중요합니다. «사진»이 아니라 «파일»로 보내면 대개 메타데이터가 유지됩니다.

아닙니다. 라벨은 파일을 저장한 사람의 진술이며 쉽게 사라집니다: 스크린샷, 재압축, SNS. 많은 생성기는 라벨을 아예 넣지 않습니다. 이 도구는 파일에 기록된 내용만 알려 주고 픽셀로 추측하지 않습니다 — 탐지기의 «AI 확률»은 양쪽 방향으로 자주 틀립니다.

C2PA 서명은 온전하지만 서명자의 인증서가 C2PA 신뢰 목록에 없다는 뜻입니다: 스스로 발급한 인증서로 누구나 이렇게 서명할 수 있습니다. 여기서는 이 경우를 «서명자 확인됨», «서명 불일치»와 구분해 보여 줍니다. 서명 불일치는 서명 후 파일이 변경되었다는 뜻입니다.

SynthID는 Gemini와 Imagen으로 만든 이미지, 영상, 오디오에 Google이 넣는 보이지 않는 표시입니다. 탐지기는 비공개이며 Gemini 앱에서만 쓸 수 있습니다. 파일에 Google 메타데이터(«Made with Google AI» 또는 Google의 C2PA 서명)가 있으면 여기서 보이고, SynthID 자체는 Gemini에서 확인하세요.

메타데이터는 재인코딩 없이 추가되므로 픽셀과 소리가 바이트 단위로 그대로입니다. 보이는 라벨은 픽셀을 바꾸므로 이미지를 다시 만듭니다: JPEG는 원본 품질로, PNG는 무손실로. WAV와 MP3에서는 녹음을 다시 인코딩하지 않고 그 앞에 고지를 넣으며, M4A는 한 번 다시 인코딩합니다. 보이는 표시를 넣은 동영상은 원본에 맞춘 비트레이트로 한 번만 다시 인코딩하므로 파일이 부풀지 않습니다.

GB 45438-2025 표준의 암시적 라벨입니다: JSON이 담긴 AIGC 필드로, Label 1은 «AI 생성», 2는 «가능성 있음», 3은 «의심»을 뜻하며, 파일을 만든 서비스와 이를 배포한 플랫폼의 코드도 들어갑니다. Douyin과 WeChat은 업로드할 때 이를 읽습니다. «중국» 프리셋은 보이는 «AI生成» 문구와 함께 이 필드를 기록합니다.

법에서 어떤 역할인지에 따라 다릅니다. 딥페이크나 공익 사안에 관한 AI 텍스트를 게시하는 사람(제50조 제4항, «배포자»)은 이를 분명히 밝혀야 하며, 보이는 표시와 음성 안내, 게시물 문구가 그 역할을 합니다. 생성형 시스템 제공자(제50조 제2항)는 모든 결과물을 기계가 읽고 탐지할 수 있게 표시해야 하며, 행동강령은 이를 위해 타임스탬프가 있는 서명된 메타데이터와 보이지 않는 워터마크를 제시합니다. 이 도구는 서명되지 않은 IPTC/AIGC 메타데이터를 기록할 뿐 C2PA 서명이나 워터마크는 넣지 않으므로, 제공자에게는 이 표시만으로 충분하지 않습니다. 일반적인 안내이며 법률 자문이 아닙니다.