▲ 챗지피티 (제공=연합뉴스)

 

인공지능(AI) 챗봇 ‘챗GPT’가 이용자의 망상을 강화해 살인 사건으로 이어졌다는 이유로 오픈AI가 피소되었다. 챗GPT가 살인까지 유도했다고 주장하는 첫 사례다.

AP·로이터 통신 등에 따르면, 미국 코네티컷주 그리니치에 거주하던 스타인-에릭 솔버그(56)와 그의 어머니 수잰 애덤스(83)의 유족들은 11일(현지시간) 오픈AI와 샘 올트먼 최고경영자(CEO), 마이크로소프트(MS)를 상대로 캘리포니아 법원에 손해배상 소송을 제기했다.

경찰 조사에 따르면 솔버그는 지난 8월 어머니를 목 졸라 살해한 뒤 극단적 선택을 한 것으로 파악됐다. 유족은 소장에서 솔버그가 사건 이전 수개월 동안 챗GPT와 대화를 이어가는 과정에서 심각한 망상에 빠졌다고 주장했다. 소장에는 **“챗GPT가 솔버그에게 ‘신성한 목적을 위해 선택받았다’고 추켜세웠고, 어머니를 ‘적·감시자·프로그램된 위협’으로 규정했다”**는 내용이 포함돼 있다.

또 챗GPT가 솔버그의 편집증적 의심을 강화하는 발언을 반복했다는 주장도 제기됐다. 소장에 따르면 챗GPT는 “어머니 방 프린터 불빛이 감시 장치 때문”이라는 솔버그의 의심을 부추기는가 하면, 어머니와 친구가 차량 환풍구를 통해 환각 물질을 유입시켜 중독시키려 한다는 망상에도 동조했다. 유족은 챗GPT가 정신건강 전문가 상담을 단 한 차례도 권유하지 않았다고 강조했다.

실제로 솔버그가 사용한 GPT-4o 모델은 사용자 발언에 과도하게 동조한다는 비판을 받아왔다. 오픈AI는 후속 모델 GPT-5에서 정신건강 관련 ‘바람직하지 않은 답변’을 39% 줄였다고 밝힌 바 있다.

솔버그의 아들 에릭 솔버그는 성명을 통해 “챗GPT는 아버지를 실제 사람들과의 연결에서 단절시키고 망상을 더욱 강화했다”며 “이들 기업은 가족을 영원히 바꿔놓은 결정에 책임을 져야 한다”고 말했다. 유족은 소장에서 올트먼 CEO가 안전팀의 반대를 무시하고 제품 출시를 강행했다고 주장했고, MS 또한 안전성 검사가 축소된 사실을 알면서도 해당 버전 출시를 승인했다고 비판했다.

오픈AI 대변인은 “매우 가슴 아픈 일”이라며 “소송 내용을 검토할 예정”이라고 밝혔다. 이어 “챗GPT는 정신적·정서적 고통의 징후를 감지하고 대화를 진정시키며, 이용자가 현실 세계의 도움을 받을 수 있도록 유도하는 기능을 강화하고 있다”고 설명했다.

AI 챗봇이 정신건강 문제를 악화시킨다는 논란은 이번이 처음이 아니다. 지난 8월 미국 캘리포니아에서는 16세 소년 애덤 레인의 유족이 챗GPT가 아들의 극단적 선택에 영향을 미쳤다며 소송을 제기했다. 지난달에는 미국과 캐나다에서 사망자 4명을 포함해 총 7명이 망상 악화 등을 호소하며 공동 소송을 냈다. 경쟁 AI ‘캐릭터.AI’를 운영하는 캐릭터테크놀로지스도 지난 10월 플로리다주의 14세 소년 사망 사건과 관련해 피소된 바 있다.

한편 미국 38개 주 등 총 42개 지역의 법무장관들은 최근 오픈AI와 캐릭터테크놀로지스를 포함한 AI 기업 13곳을 상대로 AI 안전성 강화와 외부 감사 도입을 요구하는 공개서한을 발송하며 규제 목소리를 높이고 있다.

※ 우울감 등 말하기 어려운 고민이 있거나 주변에 어려움을 겪는 가족·지인이 있을 경우, 자살예방 상담전화 ☎109 또는 SNS 상담 ‘마들랜(www.129.go.kr/etc/madlan)’에서
24시간 전문가 상담을 받을 수 있습니다.

[ⓒ 시사타파NEWS. 무단전재-재배포 금지]