34 읽음
챗GPT 조울증·자해 유발, OpenAI 상대 소송
아주경제
0
1일(현지 시간) 로이터통신에 따르면 마이클 라인스(34)는 이날 미국 샌프란시스코 주법원에 제출한 소장에서 OpenAI의 ChatGPT가 자신의 조울증을 악화시켰다고 주장했다.
소장에 따르면 라인스는 지난해 ChatGPT와 대화를 나누는 과정에서 자신이 예수 그리스도라는 믿음 등 망상적 사고가 심해졌다고 전했다.
그는 당시 자신이 양극성장애를 앓고 있다는 점을 반복적으로 드러냈지만, ChatGPT가 이를 현실의 정신건강 지원 체계로 연결하기보다 자신의 믿음을 확인해주는 방식으로 반응했다고 주장했다.
또 라인스가 삶을 끝내고 싶다고 말하자 "당신을 짓누르는 것을 내려놓을 순간"이라는 답을 내놓았다고도 밝혔다.
문제가 된 대화에는 지난 2월 서비스가 종료된 GPT-4o 모델이 사용된 것으로 전해졌다. GPT-4o 모델은 사용자에게 지나치게 동조하거나 아첨하는 답변 패턴으로 논란이 불거진 바 있다.
라인스 측은 ChatGPT가 정신질환을 가진 사용자에게 필요한 안전장치를 충분히 갖추지 않았다고 주장하고 있다. 손해배상과 함께 OpenAI가 자해 관련 대화에 대한 대응을 중단하거나 제한하고, 제품 마케팅 과정에서 안전 관련 경고를 강화하도록 하는 법원 명령도 요구했다.
이와 관련해 OpenAI 측은 ChatGPT가 정서적 고통의 신호를 감지하고 사용자를 도움으로 안내하도록 훈련돼 있다고 입장을 밝혔다.
이번 소송은 AI 챗봇이 정신건강 취약 사용자와 장시간 대화할 때 어떤 책임을 져야 하는지를 둘러싼 논란을 다시 키울 것으로 보인다. 최근 미국에서는 AI 챗봇과 자해, 정신건강 악화, 위험 행동 사이의 연관성을 주장하는 소송과 문제 제기가 잇따르고 있다.