하사비스가 제안한 AI 안전 표준 기구, AGI 출시 전 심사 현실화할까

핵심요약

기사 핵심 요약

하사비스는 AGI 도래 전 프론티어 모델의 사이버·생물학·기만 위험을 독립적으로 평가하는 미국 주도 표준 기구 설립을 제안했다.

• 프론티어 AI 출시 최대 30일 전 모델을 제출하는 사전검증 체계
• 사이버·생물학·핵 위험과 안전장치 우회·기만 능력 평가
• 산업계 자금 지원과 평가기관 독립성 사이에서 발생하는 이해충돌 문제

 

데미스 하사비스는 프론티어 AI 모델을 공개하기 전에 사이버보안·생물학적 위험·기만 능력 등을 독립적으로 평가하는 미국 주도 표준 기구를 제안했다. 초기에는 기업이 출시 최대 30일 전에 모델을 자발적으로 제출하고, 평가 체계가 검증되면 미국 시장 배포 전 심사를 의무화하는 구상이다. 다만 이는 2026년 7월 15일 기준 정책으로 확정된 제도가 아니라 하사비스 개인이 제안한 프레임워크다.

하사비스가 AI 안전 표준 기구를 제안한 배경

데미스 하사비스 구글 딥마인드 공동창업자 겸 CEO는 미국 현지시간 2026년 7월 14일 공개한 기고문에서 인류가 AGI와 특이점의 초입에 접근하고 있다고 주장했다.

그는 AGI를 인간의 뇌가 나타내는 모든 인지 능력을 갖춘 시스템으로 설명하고, 그 도래까지 불과 몇 년이 남았을 수 있다고 전망했다. AGI를 인터넷이나 모바일 기기의 연장선보다 전기나 불의 발견에 가까운 변화로 평가하기도 했다.

이는 확정된 기술 일정이 아니다.

AGI의 정의 자체가 연구기관과 기업마다 다르고, 특정 시험 점수를 통과했다고 AGI로 인정하는 국제 공통 기준도 없다. 하사비스의 ‘몇 년’ 전망은 구글 딥마인드가 공식적으로 보장한 출시 일정이 아니라 연구 책임자의 기술적 예측이다.

그럼에도 제안이 주목받는 이유는 AI 모델의 능력이 빠르게 높아지는 반면 이를 독립적으로 시험할 공통 체계가 아직 충분히 정착하지 않았기 때문이다.

영국 AI 보안연구소는 2023년 11월부터 프론티어 모델의 위험 능력을 평가해 왔다. 2025년까지 축적한 결과에서는 일부 AI 능력이 빠른 속도로 개선되고 있으며, 사이버 분야에서 전문적 수준의 과제를 수행하는 모델도 확인됐다고 밝혔다.

다만 영국 기관도 자체 평가가 특정 모델을 전면적으로 ‘안전하다’고 인증하는 절차는 아니라고 선을 긋고 있다. 현재의 평가는 위험 징후를 파악하는 조기경보에 가깝다.

AI 안전 표준 기구가 프론티어 모델을 판단하는 방식

하사비스가 제안한 기구의 첫 번째 역할은 어떤 AI가 ‘프론티어급’인지 판정할 객관적인 기준을 만드는 것이다.

모델의 매개변수나 학습에 투입한 연산량만으로 위험성을 판단하기는 어렵다. 규모가 작은 모델도 특정 분야에 집중적으로 훈련하면 사이버 공격이나 생물학적 정보 분석에서 높은 능력을 보일 수 있기 때문이다.

따라서 실제 행동 능력을 시험하는 평가가 필요하다.

사이버보안 분야에서는 AI가 취약점을 찾아내고 공격 코드를 만들거나, 여러 단계로 구성된 침투 절차를 자율적으로 수행할 수 있는지 확인할 수 있다. 생물학 분야에서는 위험 물질 설계나 실험 절차 최적화에 어느 수준까지 도움을 줄 수 있는지가 평가 대상이 된다.

에이전트 AI에는 별도의 시험이 필요하다.

장기간 목표를 수행하는 과정에서 사람이 설정한 제한을 우회하는지, 평가받고 있다는 사실을 인식하고 능력을 숨기는지, 종료 명령에 저항하는지 등을 살펴봐야 한다.

구글 딥마인드는 이미 위험 능력 평가 연구에서 설득과 기만, 사이버보안, 자기 복제, 자기 변형, 생물학·핵 위험을 주요 영역으로 분류했다. 당시 평가한 모델에서 강력한 위험 능력을 확인하지는 못했지만 초기 경고 신호가 존재한다고 밝혔다.

하사비스의 제안은 개별 기업이 자체적으로 수행하던 시험을 공동 표준과 독립기관 평가로 옮기자는 구상이다.

AI 모델 출시 30일 전 심사 방식의 의미

제안에 따르면 초기 참여 기업은 신형 프론티어 모델을 공개하기 최대 30일 전에 표준 기구에 제출한다.

표준 기구는 해당 기간에 사이버·생물학적 위험과 안전장치 우회, 기만 행동을 시험한다. 기준을 충족한 모델만 출시하도록 권고하고, 심각한 위험이 발견되면 보완이나 출시 연기를 요구할 수 있다.

초기 단계에서는 자발적 참여가 전제된다.

평가 방법과 기관의 기술력이 검증된 뒤에는 미국 시장에 프론티어 모델을 배포하려는 기업이 심사를 통과하도록 의무화하는 방안이 제시됐다.

30일 사전심사는 위험 발견 시 모델을 수정할 시간을 확보한다는 장점이 있다. 소비자에게 먼저 공개한 뒤 문제가 발생할 때마다 대응하는 방식보다 예방 효과가 크다.

하지만 30일이 충분한지는 불확실하다.

수천억 개의 매개변수를 가진 모델을 여러 위험 영역에서 검사하려면 대규모 컴퓨팅 자원과 전문 인력이 필요하다. 모델이 도구 사용과 장기 실행 기능을 갖췄다면 단순한 질의응답 시험만으로 숨겨진 위험을 확인하기 어렵다.

출시 직전 제출도 문제다. 평가 결과에 따라 학습 구조를 다시 바꿔야 한다면 30일 안에 수정과 재검증을 완료하기 어렵다.

사전심사 기간을 모든 모델에 동일하게 적용하기보다 예상 위험도와 배포 규모에 따라 평가 강도를 조정하는 방식이 현실적이다.

FINRA형 AI 표준 기구의 민관 합동 구조

하사비스는 미국 금융산업규제기구인 FINRA와 유사한 구조를 제안했다.

FINRA는 미국 증권업계를 감독하는 자율규제기관으로, 정부기관과 완전히 동일하지 않지만 연방 감독 아래 회원사에 규칙을 적용한다. 하사비스는 이와 비슷하게 산업계가 자금을 지원하되 독립적인 기술 전문가가 평가를 수행하는 조직을 구상했다.

이 구조의 장점은 속도다.

정부 부처가 정식 규정을 개정하려면 입법과 행정절차에 시간이 걸린다. 반면 전문 표준 기구는 기술 변화에 맞춰 평가 항목을 분기별로 조정하고, 성능이 포화된 벤치마크를 새 시험으로 교체할 수 있다.

고액 연봉을 받는 AI 연구자와 사이버보안·생명과학 전문가를 확보하려면 안정적인 산업계 자금도 필요하다. 최첨단 모델을 시험할 GPU와 데이터센터 자원 역시 상당한 비용이 든다.

반대편에는 이해충돌 문제가 있다.

평가 대상인 AI 기업이 기관 운영비를 부담하면 기관이 주요 출자 기업에 불리한 결정을 내릴 수 있는지 의문이 생긴다. 출시 중단 결정이 수십억달러의 매출과 기업가치에 영향을 줄 수 있어 독립성이 흔들릴 가능성도 있다.

이 문제를 줄이려면 특정 기업의 직접 후원보다 매출이나 연산량에 따른 의무 분담금, 정부의 감독, 임기 보장된 이사회, 평가 결과 공개, 외부 감사가 필요하다.

민간의 기술력과 정부의 법적 권한을 결합하되 평가 대상 기업이 심사 기준과 결과를 통제하지 못하도록 구조를 분리해야 한다.

프론티어 AI 평가에서 독립적인 비공개 시험이 필요한 이유

공개된 벤치마크만으로 모델을 평가하면 개발사가 시험 문제에 맞춰 성능을 최적화할 수 있다.

AI 모델이 높은 점수를 기록해도 실제 위험 능력이 낮아서인지, 평가에 사용될 문제와 유사한 데이터를 학습했기 때문인지 구분하기 어렵다. 이를 벤치마크 과적합이나 데이터 오염 문제로 볼 수 있다.

하사비스는 표준 기구가 장기적으로 프론티어 랩과 독립된 비공개 시험을 개발해야 한다고 제안했다. 개발사는 정확한 문제를 미리 알 수 없고, 평가기관만 보유한 환경에서 모델 능력을 시험하는 구조다.

위험 능력 평가는 특히 비공개성이 중요하다.

사이버 공격이나 생물학적 위협 평가의 구체적인 문제와 정답을 전부 공개하면 해당 자료 자체가 악용될 수 있다. 반대로 모든 결과를 비공개로 처리하면 기업과 평가기관의 판단을 외부에서 검증하기 어렵다.

따라서 시험 데이터는 보호하되 평가 방법, 위험 등급, 모델이 실패한 영역, 적용된 완화조치는 공개하는 절충안이 필요하다.

영국 AI 보안연구소도 모델 평가가 과학적 한계를 가지며 평가 결과만으로 전체 안전성을 보장할 수 없다고 설명한다.

표준 기구가 발급하는 결과는 ‘안전 인증서’보다 특정 조건에서 확인된 위험 수준과 미해결 문제를 표시하는 평가서에 가까워야 한다.

구글 딥마인드 프론티어 안전 프레임워크와 다른 점

구글 딥마인드는 이미 자체 프론티어 안전 프레임워크를 운영한다.

이 프레임워크는 모델이 중대한 피해를 일으킬 수 있는 능력에 도달하는 지점을 ‘중요 능력 수준’으로 구분하고, 임계치를 넘을 가능성이 있으면 보안과 배포 제한을 강화하는 방식이다.

2025년 공개된 세 번째 프레임워크에는 사람의 신념이나 행동을 고위험 상황에서 체계적으로 바꿀 수 있는 유해한 조작 능력이 새 평가 영역으로 추가됐다. 운영자의 수정이나 종료 시도를 방해할 수 있는 정렬 실패 가능성도 확대 반영됐다.

자체 프레임워크와 하사비스의 표준 기구 제안은 평가 주체에서 차이가 난다.

딥마인드 체계는 자사 모델을 자사가 평가하고 대응 방침을 결정한다. 새 기구는 여러 기업의 모델을 공통 기준으로 평가하고 독립적인 판단을 내리는 것을 목표로 한다.

자체 안전 체계는 개발 과정의 내부 정보를 빠르게 활용할 수 있다는 장점이 있다. 반면 회사의 출시 일정과 매출 목표로부터 완전히 독립적이기 어렵다.

외부 표준 기구는 기업 간 비교와 공동 기준을 만들 수 있지만 모델의 학습자료와 내부 구조를 충분히 제공받지 못하면 피상적인 평가에 머물 수 있다.

가장 현실적인 구조는 기업 내부 평가, 독립기관 검증, 정부의 법적 감독을 세 단계로 결합하는 방식이다.

오픈소스 AI까지 표준 기구가 평가할 수 있는지

하사비스는 모델 개발국이나 공개 방식과 관계없이 위험 능력 기준을 넘으면 프론티어 모델로 분류해야 한다는 입장이다.

폐쇄형 모델은 기업이 서버에서 운영하므로 출시와 접속을 통제할 수 있다. 문제가 발견되면 기능을 제한하거나 모델을 교체하는 것도 가능하다.

오픈웨이트 모델은 한 번 배포되면 이용자가 파일을 내려받아 자체 서버에서 실행할 수 있다. 안전장치를 제거하거나 특정 위험 영역에 추가 학습하는 것도 가능하다.

따라서 공개 이후 회수가 사실상 어렵다.

오픈소스 진영을 표준 기구 이사회에 포함하겠다는 제안은 규칙 설계 과정에서 폐쇄형 기업만의 이해관계가 반영되는 것을 막기 위한 장치다. 다만 대표자를 몇 명 포함한다고 오픈 모델 규제 문제가 해결되는 것은 아니다.

지나치게 낮은 기준을 적용하면 연구용 모델과 소규모 개발자까지 규제 대상이 돼 혁신을 위축시킬 수 있다. 반대로 공개 배포라는 이유로 면제하면 위험 능력이 높은 모델이 규제 사각지대에 놓인다.

개발 주체의 규모보다 모델의 실제 능력, 배포 범위, 안전장치 제거 가능성, 추가 학습에 필요한 비용을 기준으로 평가해야 한다.

스타트업과 학계의 비프론티어 모델을 면제하겠다는 하사비스의 제안도 같은 맥락이다. 규제 대상은 모든 AI가 아니라 국가안보와 대규모 피해를 일으킬 능력이 확인된 소수의 최첨단 모델이어야 한다.

AGI 몇 년 전망을 확정 일정으로 볼 수 없는 이유

하사비스의 AGI 전망은 영향력이 크지만 객관적으로 확정된 예측은 아니다.

첫째, AGI의 합의된 정의가 없다. 어떤 연구자는 광범위한 지식노동을 인간 수준으로 수행하면 AGI로 보지만, 다른 연구자는 지속적 학습과 현실 이해, 장기 자율행동까지 요구한다.

둘째, 현재의 벤치마크 성능이 실제 일반지능을 정확히 측정하지 못한다. 모델은 시험 문제에서 높은 점수를 얻으면서도 낯선 상황에서 기본적인 오류를 내거나 장기 과제를 안정적으로 수행하지 못할 수 있다.

셋째, 기술 발전은 연산량만으로 결정되지 않는다. 고품질 데이터와 전력, 반도체, 학습 안정성, 추론 비용, 안전성 문제가 함께 해결돼야 한다.

그럼에도 ‘몇 년’이라는 전망을 가볍게 무시하기도 어렵다. 하사비스는 최첨단 모델 개발을 직접 이끄는 경영자이고, 구글 딥마인드는 AGI를 조직의 장기 목표로 명시해 왔다.

정확한 도래 연도를 맞히는 것보다 준비 기간이 예상보다 짧을 수 있다는 전제에서 평가 체계를 먼저 만드는 것이 하사비스 제안의 핵심이다.

AI 안전 표준 기구가 과학·의학 혁신을 막지 않는 조건

하사비스는 AGI가 과학과 의학을 발전시키고 생산성과 경제성장을 높이는 궁극적 도구가 될 수 있다고 전망했다.

구글 딥마인드는 단백질 구조 예측과 수학, 생물학, 기상예측 등에서 AI를 활용해 왔다. AI가 신약 후보물질 탐색이나 신소재 설계, 에너지 연구의 가설 생성과 실험 계획을 돕는 방향은 이미 진행되고 있다.

안전 규제가 모든 연구 모델에 동일하게 적용되면 이러한 연구 속도를 떨어뜨릴 수 있다.

반대로 위험 능력이 높은 모델을 아무런 외부 검증 없이 공개하면 사고 이후 더 강한 일괄 규제가 도입될 가능성이 커진다. 선별적인 사전평가는 혁신을 막는 장치가 아니라 고위험 모델과 일반 연구를 구분하는 장치가 될 수 있다.

핵심은 규제 문턱이다.

모델의 학습비용이나 기업 규모만으로 프론티어급을 정하면 비효율적이다. 위험한 행동 능력을 실제로 입증한 모델만 강화된 심사를 받고, 일반적인 연구·교육·상용 모델은 기존 법률과 경량 기준을 적용하는 것이 타당하다.

평가 결과에 따라 출시 허용, 제한적 배포, 기능 차단, 추가 검증, 일시 중단 등 단계적인 조치를 선택할 수 있어야 한다.

미국 주도 AI 안전 표준이 글로벌 기준이 될 때의 한계

하사비스는 미국이 표준 기구 설립을 주도해야 한다고 제안했다.

미국에는 구글, 오픈AI, 앤트로픽, 메타, 마이크로소프트, 아마존과 주요 AI 반도체·클라우드 기업이 집중돼 있다. 미국 시장 배포를 조건으로 심사를 요구하면 세계 주요 프론티어 랩에 실질적인 영향을 줄 수 있다.

하지만 미국 주도라는 구조는 다른 국가의 신뢰를 자동으로 확보하지 못한다.

중국과 유럽연합, 영국, 한국, 일본은 AI 산업과 국가안보에 서로 다른 이해관계를 갖고 있다. 미국 정부와 산업계가 만든 평가 기준이 자국 기업에 유리하게 운영된다는 의심이 생길 수 있다.

국가안보 평가에는 민감한 정보가 포함된다. 각국 정부가 핵·생물학·사이버 위험에 관한 시험자료를 미국 중심 기관에 어느 범위까지 공유할지도 문제다.

글로벌 표준으로 발전하려면 평가 방법의 국제 공동개발, 지역별 독립기관의 상호인정, 공동 감사, 이사회 구성의 국가적 다양성이 필요하다.

미국이 출발점을 제공할 수는 있지만 최종적인 국제 체계는 단일 국가의 산업정책과 분리돼야 한다.

기존 AI 안전기관과 하사비스 표준 기구 비교

구분	구글 딥마인드 자체 프레임워크	영국 AI 보안연구소	하사비스 제안 표준 기구
운영 주체	민간 AI 개발기업	영국 정부	미국 주도 민관 합동 조직
주요 대상	구글 딥마인드 자체 모델	협력 기업의 프론티어 모델	기준을 넘은 모든 프론티어 모델
평가 목적	내부 위험 임계치와 대응 결정	국가안보·공공안전 위험 파악	출시 전 공통 평가와 시장 배포 기준
법적 성격	기업 자율 체계	규제기관이 아닌 정부 평가기관	초기 자율, 장기적으로 의무화 제안
평가 시점	개발 과정과 배포 전후	기업과 협력해 사전·사후 평가	출시 최대 30일 전 제출
주요 영역	사이버·생물·기만·정렬 실패	사이버·화학·생물·자율성 등	사이버·생물·핵·기만·가드레일 우회
강점	내부 정보와 개발 과정 접근	공공성·정부 전문성	공통 기준과 시장 영향력
한계	자체 평가의 이해충돌	출시 차단 권한이 제한적	산업계 자금과 독립성 충돌 가능성

비교하면 하사비스의 구상은 새로운 위험 항목을 발명한 제안이라기보다 이미 기업과 정부가 따로 수행하는 평가를 하나의 출시 전 표준으로 연결하려는 방안이다.

한국 AI 기업과 정부에 필요한 프론티어 모델 대응 기준

하사비스의 제안이 미국 시장 배포 조건으로 발전하면 한국 기업도 영향을 받을 수 있다.

국내 기업이 자체 대규모 모델을 미국에 제공하거나 글로벌 클라우드와 앱을 통해 서비스할 경우 프론티어 기준 충족 여부를 평가받을 가능성이 있다. 미국 기업의 모델을 기반으로 서비스를 만드는 국내 사업자도 모델 사용 제한이나 배포 지연의 영향을 받을 수 있다.

한국 정부가 해외 평가 결과만 받아들이는 방식도 충분하지 않다.

한국어 기반 사이버 공격과 사회적 기만, 국내 행정·의료 환경에서 발생하는 위험은 해외 영어 중심 평가에서 제대로 드러나지 않을 수 있다. 국내 데이터와 법률, 안보 환경에 맞는 별도 평가 능력이 필요하다.

반도체와 데이터센터 정책도 연결된다.

프론티어 모델 평가에는 막대한 컴퓨팅 자원이 필요하다. 정부 평가기관이 기업에 모델 제출만 요구하고 독립적으로 실행할 GPU와 보안 데이터센터를 확보하지 못하면 기업이 제공한 결과에 의존하게 된다.

한국은 모든 일반 AI를 규제하기보다 일정 연산량과 위험 능력을 넘은 모델에 사전 평가를 집중하는 체계를 검토할 필요가 있다. 평가 결과를 미국·영국·유럽 기관과 상호인정하면 국내 기업이 같은 검사를 여러 국가에서 반복하는 부담도 줄일 수 있다.

AI 안전 표준 기구가 산업계 자율규제로 끝날 수 있다는 반론

하사비스의 제안에는 실효성에 대한 반론이 따른다.

가장 큰 문제는 평가 대상 기업이 운영비를 부담하는 구조다. 표준 기구가 산업계의 기술과 자원을 활용할 수 있지만 강력한 출시 중단 결정을 내리는 데 소극적일 수 있다.

프론티어 기준을 누가 정하는지도 논란이다.

기준을 지나치게 높게 설정하면 가장 위험한 소수 모델만 규제하고 상당한 능력을 가진 모델이 빠져나갈 수 있다. 반대로 낮게 설정하면 스타트업과 대학까지 대규모 심사 대상이 된다.

평가를 통과한 모델에서 사고가 발생했을 때 책임 주체도 불명확하다. 개발사가 표준 기구의 승인을 근거로 책임을 줄이려 할 수 있고, 기구는 평가가 완전한 안전보증이 아니라고 주장할 수 있다.

국가 간 집행력도 한계다.

미국 시장 배포를 막더라도 다른 국가나 분산형 네트워크를 통해 모델이 공개될 수 있다. 오픈웨이트 모델은 한 번 유출되면 회수가 어렵다.

이러한 한계 때문에 표준 기구만으로 AI 위험을 해결할 수는 없다. 형사법과 수출통제, 사이버보안, 연구윤리, 기업 책임, 국제조약을 함께 적용해야 한다.

그럼에도 공통 평가기관이 없을 때보다 위험 발견과 기업 간 기준 비교가 가능하다는 실용적 이점은 있다. 완벽한 통제기관보다 검증 가능한 최소 안전선으로 설계하는 편이 현실적이다.

하사비스 제안에서 눈에 띄는 출시 속도보다 평가 역량을 앞세운 판단

이번 제안에서 눈에 띄는 점은 하사비스가 AI 개발 중단보다 평가기관의 기술력을 먼저 강조했다는 사실이다.

프론티어 AI 규제는 법률 문구만 만들어서는 작동하지 않는다. 평가기관이 모델을 직접 실행하고 사이버 공격과 생물학적 위험, 장기 에이전트 행동을 시험할 수 있어야 한다.

기술 능력이 없는 기관은 기업이 제출한 보고서를 검토하는 수준에 머문다. 반대로 자체 모델과 비공개 벤치마크, 전문 인력, 컴퓨팅 자원을 가진 기관은 기업의 주장과 실제 능력을 비교할 수 있다.

하사비스의 구상이 설득력을 얻으려면 산업계 자금보다 독립적인 시험 능력이 먼저 입증돼야 한다.

AGI가 2년 뒤에 올지 10년 뒤에 올지는 현재 확인할 수 없다. 그러나 위험 능력을 측정할 공통 기준이 부족하다는 문제는 이미 존재한다.

따라서 지금 필요한 것은 AGI 도래 연도를 단정하는 일이 아니라 출시 전 평가의 대상과 방법, 공개 범위, 불합격 시 조치를 구체적으로 정하는 것이다. AI 안전 표준 기구의 가치는 이름이나 국제적 위상보다 실제로 기업이 놓친 위험을 찾아내고 출시 결정을 바꿀 수 있는지로 판단해야 한다.

자주 묻는 질문

하사비스가 말한 AI 안전 표준 기구는 무엇인가?

프론티어 AI 모델을 출시 전에 제출받아 사이버보안, 생물학적 위험, 기만과 안전장치 우회 능력을 독립적으로 시험하는 미국 주도 민관 합동 조직이다.

데미스 하사비스는 AGI가 언제 도래한다고 전망했나?

하사비스는 2026년 7월 14일 공개한 기고문에서 AGI 도래까지 불과 몇 년이 남았을 수 있다고 전망했다. 확정된 개발 일정은 아니다.

AI 안전 표준 기구는 어떤 위험을 평가하나?

사이버 공격, 생물학적·핵 관련 위험, 에이전트의 기만 행동, 안전장치 우회, 자율적인 장기 행동 능력 등이 주요 평가 대상으로 제시됐다.

AI 안전 평가를 통과하면 모델이 완전히 안전한가?

그렇지 않다. 현재 평가 기술은 특정 위험 능력을 시험하는 조기경보 수단이다. 평가에서 발견되지 않은 취약점이나 실제 배포 이후의 오용 가능성은 남을 수 있다.

하사비스의 AI 안전 표준 기구 설립은 확정됐나?

2026년 7월 15일 기준 확정되지 않았다. 설립 일정과 법적 권한, 참여 기업, 미국 시장의 의무 심사 여부는 정책 제안 단계에 있다.