AI 가짜 판례 확산…법원, 과태료·징계 등 강력 대응 검토

핵심요약

기사 핵심 요약

AI가 만들어낸 허위 판례 제출 사례가 늘면서 법원이 대응에 나섰다. 과태료 부과와 변호사 징계, 자동 검증 시스템 도입 등 제도적·기술적 대응이 동시에 추진된다.

• AI 생성 ‘가짜 판례’ 실제 재판 제출 사례 증가
• 과태료 부과·변호사 징계 등 제재 방안 검토
• 판례 진위 자동 검증 시스템 도입 필요성 제기

존재하지 않는 판례가 실제 재판에 제출되는 일이 벌어지고 있다. AI의 ‘환각 현상’으로 생성된 허위 정보가 법정까지 유입되면서 사법 신뢰를 흔드는 문제로 번지고 있다.

AI 가짜 판례 확산, 재판 혼선 현실화

법원행정처는 31일 ‘AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)’ 운영 결과를 발표했다. 판사와 변호사 등 10명으로 구성된 TF는 지난해 11월부터 올해 3월까지 활동했다.

이 과정에서 AI가 실제 존재하지 않는 판결을 만들어내는 ‘환각 현상’ 사례가 다수 보고됐다. 검증되지 않은 AI 생성 정보가 재판에 제출되며 혼선과 추가 비용을 초래하는 상황이 확인된 것이다.

과태료·징계 추진, 법정 대응 수위 강화

TF는 우선 현행 제도 내 대응 방안을 제시했다. 허위 판례 인용으로 소송이 지연되거나 비용이 발생할 경우, 그 책임을 당사자에게 부담시키는 방안이 포함됐다.

또 허위 내용이 담긴 서면에 대해 법정 진술을 제한하고, 판결문에 해당 내용이 사실과 다름을 명시하는 조치도 제안됐다. 변호사가 AI 자료를 검증 없이 제출할 경우 대한변호사협회에 징계를 의뢰하는 방안도 담겼다.

아울러 민사소송법을 개정해 허위 법령이나 판례 인용 시 과태료를 부과하고, AI 활용 사실을 사전에 고지하도록 하는 규정 도입도 검토되고 있다.

자동 검증 시스템 필요…사법 신뢰 유지 과제

기술적 대응 필요성도 함께 제기됐다. 제출된 서면 속 판례와 법령의 실제 존재 여부, 내용 일치 여부를 자동으로 확인하는 시스템 구축이 필요하다는 것이다.

법원은 이미 사법정보공개포털에 ‘허위 사건번호 확인’ 기능을 도입해 기초적인 검증을 지원하고 있다. 향후 판결문 공개 범위를 확대해 일반 국민도 AI 정보의 정확성을 확인할 수 있도록 할 계획이다.

이번 사안의 핵심은 AI 활용이 아니라 ‘검증 책임’이다. 왜 주목받는가에 대한 이유는 분명하다. 기술 확산 속에서 사법 절차의 신뢰를 지키기 위한 기준 마련이 시급해졌기 때문이다.

자주 묻는 질문

AI 가짜 판례는 왜 발생하나요?

AI의 ‘환각 현상’으로 실제 존재하지 않는 판례가 생성되기 때문입니다.

AI 가짜 판례에 대해 법원은 어떤 조치를 검토 중인가요?

과태료 부과, 변호사 징계, 진술 제한 등 제재 방안이 논의되고 있습니다.

추가 대응은 무엇인가요?

판례 진위 자동 검증 시스템 도입과 AI 사용 고지 의무화가 검토되고 있습니다.