이미지 생성 AI (PG)[연합뉴스][연합뉴스]인공지능(AI)이 생성한 가짜 나체 사진으로 인한 피해가 잇따르는 가운데 미국에서 AI 이미지 생성 소프트웨어 업체를 상대로 소송을 제기했다고 월스트리트저널(WSJ)이 현지시간 16일 보도했습니다.
뉴저지주에 사는 17세 여학생이 소송을 건 대상은 AI 이미지 생성 도구 ‘클로드오프'(ClothOff)를 개발한 ‘AI/로보틱스 벤처 스트래티지 3’입니다.
이 여학생은 메신저 앱 텔레그램이 자동화 프로그램을 통해 클로드오프에 접근할 수 있게 했다는 이유로 텔레그램도 명목상 피고로 추가했습니다.
보도에 따르면 이 여학생은 14세 때 수영복을 입고 찍은 사진을 자신의 인스타그램 계정에 올렸는데, 고등학교 동급생인 남학생이 이 사진을 이용해 클로드오프로 가짜 나체 사진을 만들었다고 주장했습니다.
다른 남학생들도 AI 도구로 생성한 여러 여학생의 가짜 나체 사진을 단체 채팅방에 올려 공유한 것으로 알려졌습니다.
여학생은 자신의 딥페이크 사진이 인터넷에 유포될까 봐 “끊임없는 두려움” 속에 살고 있으며, 자신과 다른 여학생들의 사진이 클로드오프의 AI 훈련에도 이용될까 봐 걱정된다고 밝혔습니다.
원고 측은 클로드오프 운영사가 당사자의 동의 없이 보유한 모든 누드 이미지를 삭제·파기하고, 해당 이미지를 AI 모델 훈련에 사용하지 못하도록 명령해 달라고 법원에 요청했습니다.
이 여학생을 대신해 소송을 진행 중인 예일대 로스쿨 교수와 학생들은 클로드오프 운영 업체의 소재지가 영국령 버진아일랜드이며, 실제 운영자들은 벨라루스에 거주하는 것으로 파악했습니다.
원고 측은 이들이 법정에 출석하지 않거나 소송에 응답하지 않을 경우, 법원이 미국 내 소프트웨어 사용을 차단할 수 있을 것으로 기대하고 있습니다.
WSJ에 따르면 다크웹(불법 웹사이트)에서 이용자들이 클로드오프 링크를 유포하며 이를 아동 포르노 제작 수단으로 활용하고 있는 것으로 알려졌습니다.
이와 관련해 샌프란시스코 검찰은 지난해 클로드오프를 포함한 주요 딥페이크-누드 사이트 16곳을 상대로 소송을 제기해 10여곳을 폐쇄했습니다.
치우 검사장은 클로드오프를 상대로 한 소송은 계속 진행 중이라면서 “모든 운영자가 책임을 질 때까지 멈추지 않을 것”이라고 말했습니다.
#AI #이미지생성도구 #나체사진 #클로드오프
연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23
권정상(jusang@yna.co.kr)