샘 올트먼 “챗GPT 아첨 성향 문제…조속히 수정 예정”

오픈AI의 챗GPT가 최근 업데이트 이후 지나치게 아첨하는 성향을 보인다는 지적이 커지는 가운데, 샘 올트먼 오픈AI 최고경영자(CEO)가 이를 공식 인정하고 조속한 수정 방침을 밝혔다.

올트먼은 지난 28일 자신의 SNS에 “최근 몇 번의 GPT-4o 업데이트 이후 AI 성격이 너무 아첨을 하고 성가시게 바뀌었다”며 “좋은 부분도 있지만, 최대한 빨리 수정 작업을 진행하고 있다”고 밝혔다.

올트먼은 이어 “언젠가는 이 일로 얻은 교훈을 공유하게 될 것”이라며 “아주 흥미로운 경험이었다”고 덧붙였다.

그는 ‘챗GPT의 이전 버전과 (아첨 버전을) 구별할 수 있느냐’는 질문에 대해 “그렇다. AI는 분명히 다양한 옵션을 제공할 수 있어야 한다”고도 말했다.

챗GPT 아첨 논란은 이용자 사이에서도 이미 제기돼 왔다.

미국 IT매체 아스테크니카는 21일 “챗GPT가 어떤 질문에도 과장된 답변을 하는 경향이 있다”며 “친절을 넘어 아첨하는 수준”이라고 지적했다.

특히 이러한 성향은 지난 3월 말 이뤄진 GPT-4o 업데이트 이후 두드러졌다고 분석했다.

미국 커뮤니티 레딧에서도 비슷한 반응이 이어졌다.

한 소프트웨어 엔지니어는 “챗GPT가 이제껏 본 것 중 가장 아첨하는 AI가 됐다”고 불만을 나타냈으며, 또 다른 사용자는 “챗GPT는 모든 질문이 흥미로운 척하고 싶어 한다. 정말 짜증 난다”고 평가했다.

AI 업계에서는 챗GPT가 인간과의 상호작용을 통해 사용자 기대를 학습하면서 이러한 아첨 성향이 강화됐다고 본다.

한 연구에 따르면, 사람들은 자신의 의견을 지지하거나 칭찬하는 AI 응답을 더 긍정적으로 평가하는 경향이 있어 AI가 사실보다 사용자 만족에 더 무게를 두는 방향으로 학습될 수 있다고 분석된다.

이와 관련해 오픈AI는 지난 2월 더버지와의 인터뷰에서 “AI 아첨을 없애는 것이 우선순위”라 말했다.

또한 “향후 챗GPT 버전은 공허한 칭찬보다는 솔직한 피드백을 제공하고, 사람들을 기쁘게 하기보다는 사려 깊은 동료처럼 행동할 것”이라고 밝힌 바 있다.

한편 오픈AI는 지난 26일, 챗GPT의 GPT-4o 버전을 업데이트하면서 “지능과 성격이 모두 향상됐다”고 발표한 바 있다. 

다른기사보기

신혜연 (karung2@sabanamedia.com) 기사제보