성희롱·혐오·개인정보 유출 논란에…결국 멈춘 'AI 이루다'

성희롱·혐오·개인정보 유출 논란에…결국 멈춘 'AI 이루다'

출시 한 달 채 안돼 각종 논란 휩싸여…스캐터랩 "일정 시간 서비스 개선"

기사승인 2021-01-12 06:18:58
▲이루다 페이스북 캡처
[쿠키뉴스] 임지혜 기자 =여성·동성애 등 혐오 발언부터 개인정보 유출까지 각종 논란에 휩싸인 인공지능(AI) 챗봇 '이루다'가 결국 서비스를 잠정 중단한다. 지난달 23일 출시한 지 한 달도 채 되지 않았다. 

12일 IT업계에 따르면 이날부터 이루다 개발사인 스타트업 스캐터랩은 서비스를 중단할 예정이다. 

스캐터랩은 전날 입장문을 내고 "일정 시간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙고자 한다"고 밝혔다. 

스캐터랩 측은 최근 불거진 혐오와 차별 발언에 대해 "특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것에 진심으로 사과드린다"면서 "그런 발언은 회사의 생각을 반영하지 않고 있으며 차별·혐오 발언이 발견되지 않도록 지속해서 개선 중"이라고 설명했다. 

6개월간 베타테스트를 통해 혐오 표현 필터링 등을 적용했는데 예상치 못한 수준의 악성 이용자들이 나타났으며  기존에 알려진 사례들은 이미 개선을 완료했다는 게 스태커랩 측의 입장이다. 

또 제기된 개인정보 유출 의혹에 관해서도 "개인정보 취급 방침 범위 내에서 활용했지만 이용자분들과 충분히 소통하지 못했다"고 사과했다. 

그러면서 "이름·닉네임·이메일 등 구체적 개인정보는 이미 제거돼있으며, 전화번호·주소 등 모든 숫자 정보도 삭제했다"며 "비식별화·익명화를 강화해 개인을 특정할 수 있는 정보는 유출되지 않았다"고 해명했다. 

▲온라인 커뮤니티 캡처
이루다는 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다. 자연스러운 대화 능력으로 최근 이용자가 약 75만명에 달하는 등 크게 주목받았다. 

그러나 악성 이용자로부터 성적 도구 취급을 당하는 등 성희롱 논란을 빚은 데 이어 여성·동성애·장애인 차별 발언을 내놓은 것으로 알려지면서 논란을 더했다. 

여기에 스캐터랩의 다른 앱 '연애의 과학' 이용자의 카카오톡 대화를 무단으로 활용해 제작하면서 개인정보를 유출했다는 의혹까지 제기됐다. 

연애의 과학 이용자들은 스캐터랩이 충분한 설명 없이 이루다 개발에 개인정보를 활용하고 정보 보호도 제대로 하지 않았다면서 집단 소송을 예고하고 있다. 
jihye@kukinews.com
임지혜 기자
jihye@kukinews.com
임지혜 기자