AI 생성물 표시 의무 기준 마련…딥페이크는 명확한 표시 의무화

인공지능(AI)으로 만들어진 콘텐츠의 표시 기준이 서비스 이용 방식에 따라 달라진다. 특히 딥페이크처럼 사회적 혼란을 초래할 수 있는 생성물에는 사람이 쉽게 인식할 수 있는 표시가 의무화된다.

과학기술정보통신부는 22일부터 시행되는 ‘인공지능(AI) 기본법’의 투명성 확보 의무를 구체화한 ‘인공지능 투명성 확보 가이드라인’을 공개했다고 밝혔다. 법과 시행령만으로는 현장 적용이 어렵다는 업계 의견을 반영해, 실제 AI 서비스 유형별로 표시 기준을 정리했다는 설명이다.

서비스 내부 사용은 유연, 외부 공유는 강화

가이드라인의 핵심은 AI 생성물 표시 의무의 차등 적용이다.
챗봇, 게임, 메타버스 등 서비스 환경 내부에서만 AI 생성물이 사용되는 경우에는 비교적 유연한 표시 방식을 허용한다. 이용 전 고지, 화면 내 표식, 로고 안내 등으로 AI 활용 사실을 알리면 된다.

반면 생성 결과물이 다운로드되거나 외부로 공유되는 경우에는 표시 기준이 대폭 강화된다. 텍스트·이미지·영상 등 생성물에는 가시적·가청적 워터마크를 적용하거나, 안내 문구와 함께 메타데이터 등 기계 판독 방식의 표시를 병행해야 한다.

딥페이크는 예외 없이 명확한 표시

특히 실제와 구분하기 어려운 딥페이크 생성물은 예외 없이 사람이 명확히 인식할 수 있는 표시를 의무화했다. 사회적 혼란과 오용 가능성이 큰 만큼, 가장 엄격한 기준을 적용한다는 취지다.

의무 주체는 AI 서비스 제공 사업자

표시 의무의 대상은 이용자에게 AI 제품이나 서비스를 직접 제공하는 ‘인공지능사업자’다. 국내 이용자를 상대로 서비스를 제공하는 해외 사업자도 포함된다. 반면 AI를 단순 도구로 활용하는 일반 이용자나 창작자는 의무 대상에서 제외됐다.

투명성 조항에는 최소 1년 이상의 계도기간이 적용돼, 이 기간 동안 사실조사나 과태료 부과는 유예된다.

“글로벌 추세에 맞춘 최소 안전장치”

과기정통부는 “AI 생성물 워터마크는 딥페이크 오용을 막기 위한 최소한의 안전장치이자 글로벌 공통 흐름”이라며 “계도기간 동안 업계와 지속적으로 소통하며 가이드라인을 보완해 제도가 현장에 안착하도록 지원하겠다”고 밝혔다.

가이드라인 전문은 과기정통부와 한국정보통신기술협회 홈페이지에서 확인할 수 있다.