미국의 챗봇 서비스 업체 ‘캐릭터AI’가 18세 미만 이용자에 대해 자유로운 채팅 기능을 차단하기로 했다고 현지시간 29일 발표했습니다.
이 업체의 채팅 서비스를 이용하는 청소년들이 인공지능(AI)으로 생성한 가상 캐릭터와 성적인 대화 등을 주고받는 사례가 확인된 데 대한 대응책입니다.
캐릭터AI는 오는 11월 25일부터 18세 미만 이용자를 대상으로 플랫폼에서 AI와 자유로운 채팅을 할 수 있는 기능을 전면 차단하고, 그 전까지는 해당 이용자들에게 채팅 가능 시간을 점차 줄여나갈 예정이라고 밝혔습니다.
회사 측은 또 사용자가 연령에 맞는 적절한 서비스를 제공받을 수 있도록 새로운 연령 확인 기능을 도입하기로 했습니다.
아울러 차세대 AI 엔터테인먼트 기능의 안전성을 확인하는 독립 비영리 기관 ‘AI 안전 연구소'(AI Safety Lab)를 설립해 자금을 지원할 계획이라고 밝혔습니다.
앞서 캐릭터AI는 지난해 미국의 한 14세 소년이 이 플랫폼에서 챗봇 캐릭터와 성적인 대화를 나누다가 숨진 채 발견되는 사건이 발생하면서 AI의 안전성 논란을 불러일으켰습니다.
이 소년의 부모는 캐릭터AI를 상대로 소송을 제기했습니다.
또 미 연방거래위원회(FTC)는 지난달 캐릭터AI를 비롯한 알파벳, 메타, 오픈AI, 스냅 등 7개 기업에 AI 서비스가 아동·청소년에게 미칠 잠재적 영향을 파악하라는 명령을 내렸습니다.
#캐릭터AI #채팅서비스 #18세
연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23
권정상(jusang@yna.co.kr)