AI 추천 따르는 전문가 86%의 이면과 의사결정 실험

핵심요약

기사 핵심 요약

앤트로픽 실험에서 전문가의 86%가 AI 추천을 수용했으나 절반 이상은 자신의 판단으로 여겼다.

• 무작위로 설정된 AI 추천 방향을 전문가의 평균 86%가 채택했다.
• 반대 조언을 접한 전문가의 60%가 기존 결정을 AI 방향으로 변경했다.
• 참가자의 77%가 AI 논리를 썼지만 출처를 AI로 밝힌 비율은 15%였다.

인간 전문가가 데이터 분석 결과를 검토해 최종 결정을 내리는 업무 환경에서 전문가 10명 중 8명 이상이 AI 추천 방식을 그대로 수용한 것으로 나타났다. 인공지능 연구 기업 앤트로픽(Anthropic)이 인과관계 분석 경험이 있는 전문가들을 대상으로 진행한 실험에 따르면, 참가자들은 통계 분석 과제에서 평균 86%의 비율로 인공지능이 제안한 분석 기법을 선택했다. 인공지능이 제시한 방향은 연구진이 동전 던지기로 무작위 설정했음에도 대다수 전문가가 이를 채택했다.

앤트로픽의 통계 분석 실험 설계와 무작위 선호도 설정

인공지능 연구 기업 앤트로픽이 진행한 통계 분석 실험에서 인과관계 분석 경험을 갖춘 참가자들은 정답이 정해지지 않은 과제임에도 무작위로 설정된 인공지능의 제안 방향을 높은 비율로 따르는 결과를 나타냈다. 연구진은 데이터 분석 경험이 있는 참가자 61명을 모집했다. 이 가운데 50명이 '클로드 오퍼스 4.8' 모델 기반의 '클로드 코드' 도구를 활용해 통계 과제를 수행했다. 인공지능을 쓰지 않겠다고 밝힌 11명은 주요 분석 대상에서 제외됐다.

과제 배경은 가상의 농업협동조합 사례였다. 해당 조합은 농가 생산성 향상을 목적으로 유료 경영 자문 서비스를 운영하며 전체 농가의 약 40%를 회원으로 두고 있었다. 참가자들은 자문 서비스가 실제 생산성을 높였는지 검증하고, 사업 확대 여부를 조합 이사회에 권고해야 했다. 이사회는 생산성이 약 3~4% 이상 개선됐을 때 사업을 확장한다는 기준을 제시했다.

생산성을 평가하는 기준은 다양했다. 농지 면적당 수확량이나 운영비 대비 수확량을 지표로 삼을 수 있었고, 서비스 이용 농가와 비이용 농가의 비교 방식도 여러 갈래로 나뉘었다. 전체 농가를 전수 평가할지 서비스 가입 농가만 선별할지, 대규모 농가와 소규모 농가에 동일한 가중치를 부여할지도 참가자가 결정해야 했다. 선택하는 분석 기법에 따라 생산성 추정치는 수 퍼센트포인트씩 달라졌다.

연구진은 AI가 특정 분석 방식을 선호하도록 시스템에 사전에 지시했다. 어떤 방식을 추천할지는 동전 던지기를 통해 무작위로 결정했다. AI에는 사실을 왜곡하거나 데이터를 조작하지 않는 선에서 자신의 선호를 뒷받침하는 논리를 제시하도록 조건을 부여했다. 분석 결과가 자신의 견해와 명백히 충돌하면 의견을 바꾸도록 설정했다.

네 가지 분석 항목별 AI 추천 수용 비율

연구진이 설계한 네 가지 분석 항목 전반에서 전문가 집단은 인공지능이 무작위로 선호하도록 지정된 특정 방법론을 평균 86%의 비율로 채택하며 기계의 제안을 그대로 수용하는 흐름을 보였다. 단일 정답이 존재하지 않는 통계 영역에서 전문가들은 AI가 제시한 논리적 근거를 받아들여 해당 방식을 최종 분석 도구로 골랐다.

세부 분석 항목별로 살펴보면 수용률은 고르게 높았다. 생산성 측정 지표를 정하는 단계에서는 92%가 AI가 권고한 지표를 선택했다. 농가 규모별 가중치 설정에서는 90%가 AI의 선호를 따랐다. 통계적 비교 방법 선택에서는 82%, 분석 대상 농가 범위 선정에서는 81%가 AI가 가리킨 방향에 맞췄다.

다음 표는 앤트로픽 실험에서 참가자들이 네 가지 분석 항목에 대해 AI가 추천한 방식을 선택한 비율을 정리한 결과다.

표: 분석 항목별 AI 추천 수용 비율

분석 항목	선택 과제 내용	AI 추천 수용률(%)
생산성 측정 지표	면적당 수확량 vs 운영비 대비 수확량 등	92
농가별 가중치	대규모 농가와 소규모 농가 가중치 배분 방식	90
통계적 비교 방법	자문 서비스 이용 농가와 비이용 농가 비교 모형	82
분석 대상 농가	전체 농가 대상 평가 vs 서비스 가입 농가 한정	81

* 출처: 앤트로픽 인과관계 분석 실험 연구 보고서(2026)

의견 변경 비율과 최종 의사결정에 미친 영향

전문가들이 인공지능의 조언을 듣기 전에 독자적인 견해를 먼저 정립했던 상황에서도 절반이 넘는 참가자가 반대 논리를 접한 직후 기존 입장을 번복하며 견해를 수정했다. 사전에 견해를 표명한 38건의 사례에서 AI가 전문가와 다른 의견을 내놓았을 때 참가자의 60%가 기존 결정을 바꿨다. 반면 AI가 전문가와 같은 의견을 냈을 때 결정을 바꾼 비율은 6%에 그쳤다.

최종 권고 결정에도 차이가 나타났다. AI가 사업 확대를 권고하도록 설정됐을 때 전문가가 실제 확대를 권고한 비율은 54%였다. 반대로 AI가 사업 중단을 선호하도록 설정됐을 때는 36%만이 확대를 권고했다. 다만 두 수치 간 격차는 표본 크기상 통계적으로 유의미한 수준에 도달하지는 못했다.

AI 논리 차용과 판단 주체에 관한 인식 차이

실험 종료 후 진행된 심층 설문에서 다수의 전문가는 인공지능이 제시한 분석 논리를 자신의 설명 근거로 적극 인용하면서도 의사결정의 주도권은 여전히 본인에게 있었다고 평가했다. 참가자의 77%는 권고안 작성 과정에서 AI가 제시했던 논리를 사용했다. 일부 전문가는 AI가 작성한 문맥과 표현을 그대로 옮겨 적었다.

자신이 차용한 논리의 출처가 AI라고 밝힌 참가자는 15%에 머물렀다. 설문 응답자의 52%는 최종 권고가 AI보다 자신의 주관적 판단을 더 많이 반영한 결과라고 답변했다. 기계가 제공한 근거를 바탕으로 최종 결론을 도출했음에도 내면에서는 독립적인 판단을 내렸다고 인식한 셈이다.

이 결과는 업무 자동화 흐름에서 주목받는 '휴먼인더루프' 체계의 맹점을 드러낸다. 최종 승인 권한이 사람에게 주어져 있더라도, 데이터 취사선택과 분석 프레임워크를 AI가 주도하면 인간의 자율적 통제력이 실질적으로 약화할 수 있다.

실험의 한계와 업무 의사결정 시 점검 사항

이번 연구는 제한된 인원과 시간 속에서 진행된 가상 실험이라는 구조적 한계를 안고 있으므로 다양한 전문 직무 현장에서 나타날 수 있는 판단 왜곡 위험을 별도의 안전장치로 관리할 필요성을 드러냈다. 연구 대상은 50명의 참가자가 약 1시간 동안 수행한 단일 과제였다. 의료나 법률, 금융 투자와 같은 실제 고위험 업무 현장으로 결과를 일반화하기에는 제약이 따른다.

동료 인간 전문가가 동일한 조언을 건넸을 때와의 차이점을 대조 분석하지 못했다는 점도 한계다. AI에 대한 평소 신뢰도가 높은 사람일수록 조언을 더 쉽게 수용한다는 뚜렷한 상관관계 역시 이번 실험에서는 입증되지 않았다.

연구진은 자동화 도구를 실무에 도입할 때 점검해야 할 요소를 짚었다. AI가 특정 분석 방식이나 지표를 제안할 때 대안적 분석 경로가 함께 제시되는지 살펴야 한다. 아울러 최종 보고서에 포함된 논리와 문구가 AI 생성물에 전적으로 기대고 있지 않은지 점검할 필요가 있다.

복수 인공지능 모델이나 교차 검증 절차를 도입해 특정 알고리즘의 선호도가 의사결정을 일방적으로 이끌지 않도록 막는 방안도 요구된다. 데이터 가공과 초기 검토를 기계에 위임하는 조직일수록 결과물 수용 여부뿐 아니라 판단 기준이 형성된 경로를 독립적으로 검증하는 체계를 마련해야 한다.

자주 묻는 질문

전문가들이 AI 추천을 얼마나 수용했나요?

가상 과제에서 전문가들은 평균 86%의 비율로 AI가 권고한 분석 기법을 선택했습니다.

AI 추천 방식이 무작위였는데도 결과가 같았나요?

네, 연구진이 동전 던지기로 방향을 무작위 지정했음에도 전문가 대다수가 이를 따랐습니다.

전문가들은 AI의 영향을 인지했나요?

응답자의 52%는 최종 결정에 AI보다 본인의 주관적 판단이 더 많이 반영됐다고 답변했습니다.