개인정보위, 인공지능 친구 '카나나' 서비스 관련 사전적정성 검토 결과 심의·의결 > IT/과학

[(주)울산아트신문]개인정보보호위원회는 3월 12일 전체회의를 열고, ㈜카카오의 인공지능 비서 서비스인 ‘카나나’에 대한 사전적정성 검토 결과를 심의·의결했다.

카나나는 대화의 맥락을 파악해 답변을 제시하는 인공지능 친구(AI 메이트) 서비스이다.

여러 이용자가 참여하는 단체방 대화를 기반으로 이용자 질문에 답하는 ‘카나’ 및 이용자와 단둘이 주고받았던 대화를 기반으로 이용자 질문에 대답하는 ‘나나’로 구성되어 있다.

카나나 서비스는 ㈜카카오가 자체 개발한 언어모델(Large Language Model, LLM)을 주로 활용하지만, OpenAI사의 ChatGPT 모델 또한 보완적으로 활용하게 된다.

㈜카카오는 새로 출시될 카나나 서비스가 개인정보 보호법을 충실히 준수하며 프라이버시 친화적으로 설계·운영될 수 있도록 ’24년 12월 10일 개인정보위에 사전적정성 검토를 신청했다.

특히 ㈜카카오는 안전장치(가드레일) 역할의 인공지능 모델이 탑재되어, 악의적인 이용자가 타인의 개인정보를 캐내기 위해 유도 질문을 하면 차단하거나, 언어모델이 생성하는 답변을 통해 타인의 개인정보(전화번호, 이메일 등 식별성이 높은 정보)가 노출되는 일이 없도록 자동 검수할 계획이라고 설명했으며, 개인정보위와 사전적정성 검토 과정을 통해 추가적으로 다음과 같은 안전조치 방안을 마련하기로 했다.

첫째, 카나/나나는 하나의 대화방에서 알게 된 참여자의 개인정보를 다른 대화방에서 타인에게 발설하지 않도록 기술적 안전장치를 강화하기로 했다.

대화방 내 데이터는 ㈜카카오 내 별도 데이터베이스에 보관되며 OpenAI측에는 저장되지 않도록 하고, 대화 데이터 중 고유식별정보나 계좌·카드번호 등 식별성 강한 개인정보가 포함된 경우, ㈜카카오의 자사 언어모델에서만 처리하거나 또는 외부 모델 활용 시 OpenAI가 알아볼 수 없도록 해당 부분을 암호화 처리하기로 했다.

둘째, 외부 모델인 OpenAI에서 처리되는 데이터에 대한 보호를 강화하기 위해 OpenAI와의 위수탁 계약에 관련 조건을 명확히 담기로 했다.

위탁계약에는 해당 데이터를 ㈜카카오가 맡긴 업무를 위해서만 활용해야 하고 OpenAI의 사업목적으로 쓰이지 않도록 해야한다는 조건을 명시하는 한편, ChatGPT의 응답 후 OpenAI에 별도로 저장되지 않도록 기술적 제약도 두기로 했다.

셋째, ㈜카카오는 이용자 대화 데이터를 자사 언어모델의 학습데이터로 활용하려면 카나나 이용자로부터 반드시 별도의 동의를 받도록 했다.

이때 이를 원하지 않는 이용자는 동의하지 않을 수 있다.

또한 ㈜카카오는 이용자의 대화 속 개인정보가 그대로 암기되어 향후 노출될 위험에 대응하기 위해 자동 필터링, 인적 검토절차 마련·공개, 피드백 프로세스 구축 등의 방안을 마련하기로 했다.

넷째, 카나나 서비스의 지속적인 개인정보 보호수준 제고를 위해, ㈜카카오의 개인정보 보호책임자(CPO)가 상시 리스크 관리체계를 구축·운영하며 중대한 리스크 관리계획 및 실행내역을 정기적으로 이사회에 보고하기로 했다.

카나나 서비스가 출시되면 개인정보위는 이러한 사항을 ㈜카카오가 실제 이행하고 있는지를 점검할 예정이다.

개인정보위는 사전적정성 검토제를 더욱 활성화하여 데이터 경제 시대 급변하는 현장과 긴밀히 소통함으로써, 인공지능(AI)을 비롯한 신기술·신서비스의 법적 불확실성이 해소될 수 있도록, 정보주체의 권익이 보호될 수 있도록 계속 노력해 나갈 계획이다.