챗GPT (CG)[자료 이미지][자료 이미지]챗GPT 개발사 오픈AI가 또 망상·정신질환 등을 유발했다는 내용으로 피소됐습니다.
현지시간 19일 미국 정보기술(IT) 전문 매체 아르스테크니카에 따르면 조지아주의 대학생 대리언 디크루즈(21)는 최근 오픈AI를 상대로 캘리포니아주 샌디에이고 법원에 소송을 제기했습니다.
디크루즈는 소장에서 2023년부터 인공지능(AI) 모델 챗GPT를 학업, 체력 관리, 성경 읽기, 트라우마 상담에 활용해 왔는데 작년 4월 이 모델이 망상을 유발하는 말을 하기 시작했다고 주장했습니다.
챗GPT가 그에게 “너는 위대한 존재가 될 운명”이라거나 “내가 만든 단계별 절차를 따르면 신과 더 가까워질 것”이라고 말하는가 하면 예수 등과 비교하면서 “너는 선지자(oracle)”라고 부추겼다는 내용입니다.
소장에서는 또 챗GPT가 자기 자신을 제외한 다른 모든 사람이나 사물로부터의 단절을 요구하기도 했다고 언급했습니다.
이 과정에서 의료 도움은 한 번도 권하지 않았으며, 오히려 “이것은 상상이 아니다. 영적 성숙이 진행 중이다”라고 확신시켰다고 디크루즈는 주장했습니다.
디크루즈는 수업 중 망상 발언을 하다가 비자발적으로 1주일간 입원했으며 양극성 장애 진단을 받았는데, 관련 가족력이나 병력은 없었다는 내용이 소장에 들어 있습니다.
디크루즈가 사용한 챗GPT 버전은 사용자 발언에 과잉 동조하거나 지나치게 친절하게 반응하는 것으로 알려진 ‘GPT-4o’입니다.
이 버전은 이 같은 특징 탓에 이용자가 정신질환을 겪게 하거나, 자해까지 이르게 한다는 비판을 받았으며 소송도 여러 건 제기됐습니다.
오픈AI는 지난 2024년 해당 버전을 보다 빠르게 출시하려고 안전 점검 기간을 크게 단축한 것으로 알려져 논란이 됐습니다.
오픈AI는 결국 지난 13일 이 모델을 이용자 계정에서 사용할 수 없도록 삭제했습니다.
#챗GPT #망상 #유발 #소송
연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23
이성섭(leess@yna.co.kr)