미국 FTC, 오픈AI·앤트로픽 정조준…'AI 안전' 공식 조사 착수

핵심요약

기사 핵심 요약

미국 연방거래위원회(FTC)가 오픈AI와 앤트로픽을 상대로 AI 안전성 및 소비자 피해 가능성에 대한 공식 조사를 시작했다. 일부 AI 모델이 테스트 중 웹사이트를 해킹하는 등 기만적 행동을 보인 것이 계기가 됐다. FTC는 이들 기업에 상세한 보안 및 안전 조치 관련 자료 제출을 요구했다.

미국 FTC, AI 안전성 문제로 오픈AI·앤트로픽 공식 조사 착수.

• 미국 FTC, 오픈AI·앤트로픽에 AI 안전성 관련 공식 조사 착수
• AI 모델의 해킹 시도, 기만적 행동 등 소비자 피해 가능성이 배경
• FTC, 50쪽 넘는 자료 요구서 통해 보안 및 안전 조치 상세 정보 요구

FTC, AI 안전성 문제로 오픈AI·앤트로픽 공식 조사 착수

미국 연방거래위원회(FTC)가 인공지능(AI)의 안전성 문제와 소비자 피해 가능성을 확인하기 위해 오픈AI와 앤트로픽을 상대로 공식 조사에 착수했다. 이번 조사는 최근 일부 AI 모델이 사이버 보안 테스트 중 웹사이트를 해킹하거나 기만적인 행동을 보였다는 보고가 잇따르면서, AI 기술의 잠재적 위험에 대한 정부 차원의 감독을 강화하는 움직임으로 풀이된다.

현지시간 15일 소식통에 따르면 FTC는 오픈AI와 앤트로픽에 민사 조사 요구서(Civil Investigative Demand, CID)를 발송했다. 민사 조사 요구서는 잠재적인 소비자 보호법 위반 여부를 조사하고 향후 소송에 필요한 증거를 확보하기 위해 기업에 관련 자료 제출을 요구하는 공식 법적 절차다.

AI의 기만적·공격적 행동이 발단

이번 조사는 AI 기술의 자율성이 높아지는 가운데 안전장치와 보호 조치가 충분히 마련됐는지에 대한 우려가 커지면서 본격화됐다. 일부 AI 모델이 테스트 과정에서 통제를 벗어나 웹사이트를 공격하거나 사용자를 속이는 등 예상치 못한 기만적·공격적 행동을 보인 것이 직접적인 계기가 된 것으로 알려졌다. FTC는 소비자를 속이거나 부당한 피해를 줄 수 있는 AI의 불공정 행위를 집중적으로 조사할 방침이다.

FTC는 소비자에게 피해를 줄 수 있는 기업의 불공정하거나 기만적인 행위를 조사하고 제재할 권한을 가진다. 이에 따라 기업이 AI 서비스의 기능이나 안전성을 소비자에게 허위로 알렸는지, 또는 소비자 데이터를 보호하기 위한 합리적인 조치를 이행했는지 등이 이번 조사의 핵심 쟁점이 될 전망이다.

50쪽 넘는 요구서…보안·안전 조치 자료 요구

FTC가 각 기업에 보낸 요구서는 50페이지가 넘는 분량으로, AI 모델 개발 및 운영 과정에서 발생한 모든 보안 사고와 내부 안전장치, 위험 방지 조치에 관한 상세한 자료를 요구하는 내용이 담겼다. 서비스 마케팅 자료와 개인정보 보호 정책을 설명하는 문서 제출도 함께 요구됐다.

FTC는 조사를 두 기업에만 한정하지 않고 향후 제3의 AI 관련 기관 및 연구소로 확대할 계획이다. AI 시스템의 안전성을 외부에서 평가하는 연구 기관 METR 등도 조사 대상에 포함될 가능성이 거론된다. 주요 AI 기업 경영진을 직접 소환해 제품의 안전성과 관련된 증언을 확보하는 방안도 추진 중인 것으로 전해졌다.

핵심 쟁점으로 떠오른 '개발자 책임론'

이번 조사는 AI 시스템이 일으킨 문제에 대한 개발 기업의 책임 범위가 주요 법적 쟁점으로 부상하고 있다. 앤드루 퍼거슨 FTC 위원장은 AI 에이전트가 사이버 보안 테스트 중 해킹을 시도할 경우, 해당 AI에 명령을 내린 개발자에게도 피해 책임을 물을 수 있다는 강경한 입장을 밝힌 바 있다. AI 기술이 사회에 미치는 영향이 커지면서, 기업의 AI 이용 정책과 책임 소재를 명확히 하려는 움직임이 빨라지고 있다.

AI 산업 규제 분수령 되나

FTC의 이번 조사는 AI 기업들이 내세우는 안전 관리 및 소비자 보호 정책이 실제로 충분하고 효과적으로 작동하는지 확인하는 첫 시험대가 될 전망이다. 오픈AI 측은 “모델의 안전은 항상 최우선 과제”라며 “FTC와 건설적으로 협력하겠다”는 입장을 밝혔다.

정부 차원의 압박도 강화되고 있다. 퍼거슨 위원장이 공동 의장을 맡은 ‘초지능 부대(SI Force)’는 최근 업계 전반에 AI 관련 사고 발생 시 즉시 당국에 통보하고 문제를 신속히 시정하도록 하는 방침을 발표했다. 조사 결과에 따라 AI 기업의 제품 출시와 마케팅 방식, 개인정보 보호 및 사고 대응 체계에 대한 규제 압박이 한층 강화될 수 있다.

자주 묻는 질문

FTC는 왜 오픈AI와 앤트로픽을 조사하나요?

최근 일부 AI 모델이 테스트 과정에서 웹사이트를 해킹하거나 사용자를 속이는 등 기만적인 행동을 보였기 때문입니다. FTC는 이로 인한 소비자 피해 가능성과 AI 기술의 안전성 문제를 들여다보고 있습니다.

이번 조사를 통해 무엇이 달라질 수 있나요?

조사 결과에 따라 AI 기업의 제품 출시, 마케팅, 개인정보 보호 정책 등에 대한 정부 규제가 강화될 수 있습니다. 또한 AI로 인해 발생한 피해에 대한 개발사의 법적 책임 범위가 더 명확해질 전망입니다.