기사 핵심 요약
유럽연합(EU)의 AI법 시행에 따라 AI 생성 콘텐츠에 출처 표시가 의무화되었습니다. 구글, 오픈AI 등 주요 기업들은 눈에 보이지 않는 AI 워터마크 기술인 '신스아이디'와 콘텐츠 이력을 기록하는 'C2PA' 표준을 조합하여 딥페이크 등 기술 오남용을 방지하고 콘텐츠 신뢰도를 확보하는 데 나서고 있습니다.
- EU AI법 시행으로 AI 생성물에 워터마크 등 출처 표시 의무화.
- 주요 기술로 보이지 않는 'AI 워터마크(신스아이디)'와 이력 기록 표준 'C2PA' 활용.
- 번역·편집 시 탐지 회피 가능성 등 기술적 한계가 존재하며 보완 노력 지속.
EU AI법 시행, AI 생성물에 '꼬리표' 붙는다
유럽연합(EU)이 이달부터 인공지능(AI)이 만든 콘텐츠에 식별 표시를 의무화하면서, AI 생성물을 구별하기 위한 'AI 워터마크' 기술 도입이 본격화됐다. EU AI법에 따라 텍스트, 이미지, 오디오 등을 생성하는 AI 모델 제공자는 결과물에 기계가 판독할 수 있는 출처 표시를 적용해야 한다. 이는 딥페이크 등 AI 기술의 오남용을 막고 콘텐츠 신뢰도를 높이기 위한 조치다.
새로 발효된 AI법 제50조 2항은 AI가 생성하거나 조작한 콘텐츠에 탐지 가능한 표시를 넣어야 한다고 규정한다. 2026년 8월 2일 이후 출시되는 새 AI 모델은 이 규정을 즉시 따라야 하고, 기존 모델은 12월 2일까지 유예기간을 갖는다. AI 기업 앤트로픽은 최신 AI 모델 ‘클로드’의 생성물에 워터마크와 출처 정보를 적용하는 등 발 빠르게 대응에 나섰다.
보이지 않는 워터마크와 C2PA, AI 식별 기술의 두 축
AI 생성물을 식별하는 대표적인 기술로는 보이지 않는 'AI 워터마크'와 콘텐츠의 출처 및 이력을 기록하는 'C2PA' 표준이 있으며, 이 두 기술은 AI 콘텐츠의 투명성을 높이는 핵심적인 역할을 수행한다. 이들 기술은 AI가 만든 콘텐츠에 디지털 꼬리표를 붙여 출처를 투명하게 만들고, 서로의 장단점을 보완하는 방식으로 함께 사용된다.
구글 '신스아이디': 픽셀과 확률 분포에 숨겨진 서명
신스아이디(SynthID)는 구글 딥마인드가 2023년 공개한 AI 워터마크 기술로, 이미지, 영상, 오디오, 텍스트 등 다양한 콘텐츠의 픽셀이나 신호에 사람이 인지할 수 없는 정보를 직접 삽입한다. 이미지나 영상의 경우 미세한 신호를 픽셀에 심는 방식이며, 일부 편집이나 압축 과정을 거쳐도 워터마크가 유지되도록 설계됐다.
텍스트 워터마크는 대규모언어모델(LLM)이 다음 단어를 선택하는 과정에 개입해 생성된다. LLM은 여러 후보 단어에 각각의 등장 확률을 부여하는데, 신스아이디는 이 확률 분포를 미세하게 조정해 특정 패턴을 남긴다. 이 패턴을 분석하면 해당 텍스트가 신스아이디로 생성됐는지 판별할 수 있다.
C2PA: 콘텐츠 출처와 변경 이력 담는 '디지털 인증서'
C2PA(Coalition for Content Provenance and Authenticity)는 콘텐츠 파일의 메타데이터 영역에 제작 도구, 생성 시점, 편집 이력 등의 정보를 '디지털 인증서'처럼 기록하는 국제 공개 표준이다. 워터마크보다 더 풍부한 정보를 담을 수 있다는 장점이 있다.
하지만 C2PA는 메타데이터에 의존하기 때문에 파일을 다른 플랫폼에 올리거나 변환하는 과정에서 정보가 쉽게 사라질 수 있다. 반면 신스아이디 같은 워터마크는 콘텐츠 자체에 신호가 포함돼 변형에 더 강하다.
주요 기업의 기술 조합과 규제 대응
주요 빅테크 기업들은 EU 규제에 대응하기 위해 AI 워터마크와 C2PA 기술을 콘텐츠 종류에 따라 전략적으로 조합해 사용하고 있다. 각 기술의 장단점을 보완해 생성물의 출처를 더 효과적으로 표시하려는 시도다. 기업들은 아직 완벽한 기술은 없다는 점을 인정하면서도 투명성 확보에 나서고 있다.
아래 표는 주요 AI 기업들이 콘텐츠 유형별로 어떤 식별 기술을 적용하고 있는지 정리한 내용이다.
| 기업 | 텍스트 | 이미지 | 오디오/영상 |
|---|---|---|---|
| 앤트로픽 | 워터마크 | C2PA | C2PA |
| 구글 | 신스아이디(워터마크) | 신스아이디(워터마크) | 신스아이디(워터마크) |
| 오픈AI | 미적용 (검토 중) | C2PA + 신스아이디 | 신스아이디(워터마크) |
번역·편집에 사라지는 워터마크...완벽한 탐지는 '아직'
AI 생성물 식별 기술은 아직 완벽하지 않으며, 간단한 편집이나 번역만으로 워터마크를 우회할 수 있는 한계가 존재한다. 앤트로픽은 텍스트를 크게 수정하거나 다른 언어로 번역하면 워터마크 탐지가 어려워질 수 있다고 인정했다. 문장이 지나치게 짧을 경우에도 신뢰도 높은 판별이 어렵다.
메타 역시 2024년 발표에서 보이지 않는 워터마크를 제거하는 방법이 존재한다고 밝혔다. 오픈AI는 텍스트 워터마크 기술을 검토하면서 다른 생성형 AI로 문장을 다시 쓰게 하는 방식으로 탐지를 피할 수 있다고 설명했다. 아울러 영어가 모국어가 아닌 사용자가 AI를 글쓰기 보조 도구로 활용할 때 부정적인 낙인이 찍힐 수 있다는 사회적 부작용에 대한 우려도 제기했다.
한계에도 확산될 투명성 표준, 신뢰 구축의 첫걸음
이러한 기술적 한계에도 AI 생성물의 출처를 밝히려는 노력과 관련 표준 도입은 계속 확대될 전망이다. EU의 AI법 시행이 강력한 촉매 역할을 하는 가운데, 앤트로픽, 구글, 오픈AI, 메타 등 주요 기업들은 이미 EU의 'AI 생성 콘텐츠 투명성 행동 강령'에 동참하며 기술 개발과 도입에 나서고 있다.
헤나 비르쿠넨 EU 집행위원회 수석부위원장은 “유럽인들은 자신이 보고 듣고 읽는 것이 AI에 의해 만들어졌거나 변경됐는지 알 권리가 있다”며 “투명성은 우리가 신뢰를 보호하는 방법”이라고 강조했다. AI 워터마크와 같은 식별 기술은 완벽하지 않더라도, 건강한 AI 생태계를 만들고 사회적 신뢰를 구축하기 위한 중요한 첫걸음으로 평가된다.
같은 주제 기사 모아보기
IT테크 관련 기사 더 보기자주 묻는 질문
AI 워터마크는 무엇이고 왜 필요한가요?
AI 워터마크는 인공지능이 만든 콘텐츠에 사람이 인지하기 어려운 신호를 삽입하는 기술입니다. EU AI법 시행에 따라 딥페이크 등 AI 기술 오남용을 막고 콘텐츠의 출처와 신뢰도를 높이기 위해 의무화되었습니다.
신스아이디(SynthID)와 C2PA는 어떻게 다른가요?
신스아이디는 구글이 개발한 워터마크 기술로, 콘텐츠 자체에 신호를 넣어 편집·압축에 강합니다. C2PA는 콘텐츠의 제작·수정 이력을 메타데이터에 기록하는 국제 표준으로, 더 많은 정보를 담을 수 있지만 파일 변환 시 정보가 사라질 수 있습니다.
AI 워터마크 기술은 완벽하게 AI 생성물을 탐지할 수 있나요?
아니요, 아직 완벽하지는 않습니다. 콘텐츠를 다른 언어로 번역하거나 문장을 다시 쓰는 등의 과정을 거치면 워터마크 탐지가 어려워질 수 있습니다. 기업들도 이러한 한계를 인정하고 기술을 보완하고 있습니다.
댓글을 남기려면 로그인 해주세요.