앤트로픽 AI 이용 정책 AI에 욕설하면 계정 정지?

핵심요약

기사 핵심 요약

생성형 AI '클로드' 개발사 앤트로픽이 AI 모델을 향한 모욕적이거나 잔인한 행동을 금지하는 새로운 이용 정책을 도입했다. 이 조치를 두고 기술적 도구에 불과한 AI를 과도하게 의인화한다는 비판과, 사용자들의 올바른 언어 습관을 장려하고 더 나은 답변을 유도할 수 있다는 옹호론이 맞서고 있다.

앤트로픽, AI에 대한 모욕적 언행 금지 정책 도입으로 논란.

• 앤트로픽, AI 모델 '클로드'에 모욕적·잔인한 행동 금지 정책 도입
• 'AI 과잉 의인화' 비판과 '올바른 상호작용 장려' 옹호론으로 찬반 갈려
• 새 정책은 반복적이고 극단적 사례에 한정, 정치적 악용 금지도 명문화

앤트로픽, 'AI 괴롭힘' 금지하는 새 이용 정책 도입

앤트로픽 AI 이용 정책 개정이 논란을 낳고 있다. 생성형 AI '클로드(Claude)' 개발사 앤트로픽은 지난 10월 8일(현지시간) AI 모델에 대한 '모욕적이거나 잔인한 행동(abusive or cruel behavior)'을 금지 항목에 추가하고, 위반 시 이용자 계정을 차단할 수 있도록 했다. 이번 조치는 AI를 단순한 도구로 볼 것인지, 존중이 필요한 대상으로 인식해야 하는지를 둘러싼 사회적 논의를 불러일으키고 있다.

모욕·잔인한 행동의 구체적 기준은 미공개

새 이용 정책은 사용자가 AI에 모욕과 괴롭힘을 가하면 대화를 끝내거나 서비스 접근을 막을 수 있다고 명시한다. 다만 앤트로픽은 어떤 행위를 '모욕적이거나 잔인한 행동'으로 볼지에 대한 구체적 기준은 공개하지 않았다. 이 때문에 향후 정책 적용 과정에서 혼란이 생길 수 있다는 우려가 나온다. 앤트로픽 측은 반복적이고 극단적인 사례에만 새 정책을 적용하며, 사용자의 일반적인 불만이나 연구 목적의 성능 시험 등에는 적용하지 않는다고 설명했다.

'AI 과도한 의인화' 대 '올바른 매너 장려'

앤트로픽의 새 정책을 두고 소셜미디어 등에서는 AI를 어디까지 인간처럼 대해야 하는지에 대한 논쟁이 벌어졌다. 일부 이용자는 AI와 상호작용할 때 올바른 태도를 장려하는 긍정적 조치라고 평가했다. 반면 AI를 지나치게 사람 취급하는 '의인화'라는 비판도 나온다. 기술 도구에 불과한 AI에 감정적, 윤리적 잣대를 들이대는 것은 부적절하다는 주장이다.

비판 측: "해로운 의인화, 실제 학대 의미 희석 우려"

정책에 비판적인 쪽은 AI의 과도한 의인화가 오히려 해로울 수 있다고 주장한다. 아일랜드 로펌 윌리엄 프라이의 배리 스캐널 박사는 "이 정도 수준의 AI 의인화는 AI를 실제와 다른 존재로 오인하게 만들 수 있다"고 지적했다. 기계를 향한 행위를 '괴롭힘'이나 '학대'로 규정하면, 인간이나 동물을 대상으로 한 실제 학대의 심각성과 의미가 희석될 수 있다는 우려도 제기된다.

옹호 측: "예의 바른 표현이 더 나은 답변 유도"

반면 AI에게 예의를 갖추는 편이 실용적이라는 주장도 나온다. 정중하고 명확한 언어를 사용하면 AI로부터 더 정확하고 유용한 답변을 얻는 데 도움이 될 수 있다는 것이다. 이는 AI 모델이 학습한 방대한 데이터 속 인간의 대화 패턴과 관련 있다는 분석이다. 사용자의 긍정적 언어 습관을 유도하는 것만으로도 교육적 의미가 있다는 평가도 있다.

AI와 대화, 정중한 표현은 자원 낭비일까

이번 논란은 생성형 AI와 대화할 때 '부탁합니다'나 '감사합니다' 같은 정중한 표현이 필요한지를 둘러싼 기존 논쟁을 다시 수면 위로 끌어올렸다. 일부 전문가는 이런 표현이 AI의 응답 처리 자원인 '토큰'을 불필요하게 소모한다고 지적한다. 반면 샘 올트먼 오픈AI 최고경영자(CEO)는 지난해 한 이용자의 질문에, 챗GPT가 정중한 표현에 답하는 데 수천만 달러의 비용이 들지만 '잘 쓴 돈'이라고 답하며 예의 바른 상호작용의 가치를 인정하기도 했다.

선거 개입 등 정치적 악용 금지도 명문화

앤트로픽은 이번 이용 정책 개정에서 AI 모욕 금지 외에 다른 중요 조항도 명문화했다. 유권자를 속이거나 선거 과정을 방해하는 등 정치적 목적으로 '클로드'를 사용하는 행위를 명시적으로 금지한 것이 대표적이다. 이는 AI 기술이 민주주의 절차에 미칠 부정적 영향을 사전에 차단하려는 조치다. 기존의 타인 괴롭힘, 자해 조장, 비동의 성적 이미지 제작 등 금지 조항도 그대로 유지된다.

자주 묻는 질문

앤트로픽의 새 AI 이용 정책은 무엇인가요?

사용자가 AI 챗봇 '클로드'에게 모욕적이거나 잔인한 언행을 할 경우, 대화를 중단하거나 계정 접근을 차단할 수 있다는 내용의 정책입니다.

AI에게 욕설하면 무조건 계정이 정지되나요?

그렇지는 않습니다. 앤트로픽은 반복적이고 극단적인 사례에만 새 정책을 적용할 것이며, 일반적인 불만 표현이나 연구 목적의 테스트는 해당하지 않는다고 밝혔습니다.

AI에게 예의를 갖추면 더 좋은 답변을 받을 수 있나요?

일부 전문가는 정중하고 명확한 표현이 AI로부터 더 정확하고 유용한 답변을 얻는 데 도움이 될 수 있다고 봅니다. 이는 AI가 학습한 데이터 속 인간의 대화 패턴과 관련이 있는 것으로 분석됩니다.

참고자료

1. Claude
2. Anthropic