사회
카카오 AI 서비스 ‘카나나’, 개인정보 보호 강화 후 출시
카카오가 개발 중인 인공지능(AI) 서비스 ‘카나나’가 개인정보 보호 조치를 강화한 후 출시될 예정이다.
개인정보보호위원회는 카나나 서비스가 이용자의 개인정보를 보호하고 내부 학습에 활용될 경우 별도 동의를 받도록 하는 방안을 마련해야 한다는 판단을 내렸다.
개인정보보호위원회는 13일 카카오의 AI 비서 서비스 ‘카나나’에 대한 사전 적정성 검토 결과를 전날 전체회의에서 의결했다고 밝혔다.
사전 적정성 검토는 새로운 서비스를 기획·개발하는 과정에서 개인정보 보호법 준수 여부를 사전에 점검하고 적절한 조치를 마련했을 경우 향후 행정 처분을 면제받을 수 있는 제도다.
카카오는 지난해 12월 출시를 앞둔 카나나가 개인정보 보호법을 준수할 수 있도록 사전 검토를 신청했다.
카나나는 카카오톡과 별개로 운영되는 AI 친구 서비스로, 그룹 대화방에서 질문에 답하는 ‘카나’와 1:1 대화를 바탕으로 답변을 제공하는 ‘나나’로 구성된다.
카카오는 자체 개발한 언어모델(LLM)을 활용하지만, 미국 오픈AI의 챗GPT 모델도 보완적으로 적용할 계획이다.
개인정보위와 카카오는 협의를 통해 카나나 서비스에서 개인정보 보호를 위한 조치를 마련하기로 했다.
우선, 카나와 나나가 특정 대화방에서 알게 된 개인정보를 다른 대화방에서 발설하지 않도록 기술적 안전장치를 강화할 예정이다.
대화 데이터는 카카오 내부 데이터베이스에만 저장되며, 오픈AI에는 저장되지 않도록 조치된다.
대화 데이터에 개인 식별 정보(고유식별번호, 계좌번호, 카드번호 등)가 포함될 경우, 해당 정보는 카카오의 자체 언어모델에서만 처리되며, 오픈AI로 전송될 경우 암호화해 보호된다.
또한, 오픈AI와의 위수탁 계약 조건을 명확히 정리하고, 해당 데이터를 카카오가 맡긴 업무를 위해서만 활용하고, 오픈AI의 사업목적으로 사용 금지하며, 챗GPT의 응답 후 오픈AI에 별도로 저장되지 않도록 기술적 제약 마련 등의 내용을 계약에 포함할 예정이다.
카카오가 이용자의 대화 데이터를 AI 학습에 활용할 경우, 고객으로부터 반드시 별도의 동의를 받아야 한다.
이용자는 이를 거부할 수 있으며, 대화 중 개인정보가 노출될 위험을 줄이기 위해 자동 필터링, 인적 검토 절차 마련, 피드백 시스템 구축 등의 조치도 도입될 예정이다.
개인정보위는 카나나 서비스가 출시되면 이러한 조치들이 적절히 이행되는지 점검할 예정이다.
전승재 개인정보위 조사3팀장은 “안전조치 방안은 앞서 카카오가 구상하고 있던 내용을 개인정보위와 협의하면서 구체화한 것”이라며
“언급된 안전장치는 모두 카나나 출시 전에 구현돼야 한다”고 강조했다.
신혜연 (karung2@sabanamedia.com) 기사제보