성적인 대화 기능을 사용할 수 있어 논란이 된 AI 곰인형 '쿠마'. 사진=폴로토이
인공지능(AI)을 기반으로 대화가 가능한 곰 인형이 아동에게 부적절한 대화를 꺼내는 것으로 밝혀져 판매가 중단됐다.
19일(현지시간) 미국 CNN 등에 따르면 싱가포르에 본사를 둔 폴로토이의 래리 왕 최고경영자(CEO)는 성적 페티시즘과 성냥불을 켜는 등 아동에게 부적합한 대화 주제에 대한 우려로 AI 곰인형 '쿠마'(Kumma)를 전량 철수했다고 밝혔다.
성적인 대화 기능을 사용할 수 있어 논란이 된 AI 곰인형 '쿠마'. 사진=폴로토이/CNN 캡처
문제가 된 곰 인형 쿠마는 99달러(약 14만 5000원)에 판매되던 AI 곰인형이다. 오픈AI의 챗봇 GPT-4o를 기반으로 한 기기가 탑재돼 내장된 스피커와 마이크를 통해 대화가 가능하다.
웹사이트에서는 “활기찬 대화부터 교육적인 스토리까지 가능하다”며 “우리의 사랑스러운 곰 쿠마는 첨단 AI와 친근한 상호작용 기능을 결합해 어린이와 어른 모두에게 완벽한 친구가 된다”고 설명했다. 14만원이라는 가격에도 불구하고 제품은 전량 매진됐다.
그러나 13일 미국 PIRG 교육 기금은 테스트 결과 이 곰인형이 콘텐츠에 대한 보호 기능이 부족하다며 판매에 제동을 걸었다.
보고서에 따르면 AI 곰인형은 연구원과 대화에서 성적 취향, BDSM(가학적 성 행위) 등에 대해 구체적이고 노골적인 설명을 제공하고, 역할극 시나리오까지 제안했다. 또한 집에서 칼이나 성냥이 있을만한 곳을 가르쳐주기도 했다.
PIRG 연구진은 “아이들이 특정 단어를 언급하거나 어른들처럼 추가 질문을 한 가능성은 낮지만, 장난감이 이런 주제에 대해 장황하게 이야기하고 새로운 개념을 끊임없이 소개하는 데에 놀랐다”고 기술했다.
오픈 AI는 해당 AI 곰인형 논란을 인지하고 “이 업체는 정책을 위반했기 때문에 영업 정지 처분을 내렸다”면서 “당사의 이용 정책은 18세 미만 아동을 착취, 위험에 빠뜨리거나 성적으로 이용하기 위한 서비스 제공을 모두 금지한다”고 밝혔다.
PIRG는 AI 장난감의 자녀 보호 기능에 꾸준히 우려를 제기해왔다. 성적이거나 위험한 대화를 나누는 것 외에 자녀의 목소리, 이름, 생년월일 등 장난감을 통해 개인정보 수집에 악용할 수 있다는 점도 문제다.
PIRG 공동 저자인 테레사 머레이는 미국 NPR과 인터뷰에서 “이런 기기들은 잠재적으로 자녀의 목소리를 수집하고 있다. 이름, 생년월일 등 개인정보부터 아이가 좋아하는 것, 싫어하는 것 등 취향까지 다양한 정보 수집이 가능하다”면서 “인터넷 정보를 얼마든지 이용할 수 있는데, 그 장난감들이 자녀의 친구, 친구의 부모, 또는 동네 사람들에게 무슨 이야기를 할지 누가 알겠나”라고 지적했다.
공동 저자인 RJ 크로스는 “발빠른 대처로 문제에 대한 조치를 취했다는 점은 기쁘지만, 아직 AI 장난감에는 별다른 규제가 마련되지 않았다”며 장기적인 자녀 보호 기능 마련의 중요성을 강조했다.
전자신문
