[AI & 감정①] “AI 공감은 시뮬레이션”…‘공감의 환상’이 부르는 위험 | 정치

3시간 전 2,320 읽음

[AI & 감정①] “AI 공감은 시뮬레이션”…‘공감의 환상’이 부르는 위험

투데이신문

최근 전 세계적으로 인공지능(AI)과 감정을 교류하며 정서적으로 의존하는 사례가 빠르게 늘고 있다. 외로움을 달래주는 ‘AI 친구’와 심리 상담 챗봇 등 감정 기반 서비스가 일상으로 확산되는 가운데, 과의존과 정신 건강 문제, 아동·청소년 등 취약 계층 보호를 둘러싼 윤리적 우려도 커지고 있다.

이 같은 흐름 속에서 국제인공지능윤리협회와 NC문화재단은 지난달 26일 ‘감정 교류 AI의 올바른 개발과 활용’을 주제로 ‘모두의 인공지능 윤리 컨퍼런스’를 개최했다. 이날 박형빈 서울교육대학교 교수, 차유진 KAIST 교수, 박미애 경북대학교 교수가 감정 교류 AI의 사회적 영향과 제도적 과제를 짚고 기업·사용자·정부의 역할을 제시했다. 투데이신문은 세 전문가의 발표를 중심으로 감정 교류 AI를 둘러싼 쟁점과 해법을 짚어본다.

【투데이신문 강지혜 기자】나치의 박해를 피해 숨어 지내던 안네 프랑크는 ‘키티(Kitty)’라는 이름을 붙인 일기장에 누구에게도 말하지 못한 감정과 두려움을 적어 내려갔다. 일기장은 친구이자 어떤 판단도 반박도 하지 않는 존재였고 안네는 그 앞에서 자신의 가장 깊은 내면을 드러냈다.

오늘날 아동·청소년이 생성형 인공지능(AI)에 털어놓는 수많은 고백 역시 이와 닮아 있다. 사용자는 판단받지 않는 공간에서 감정을 풀어내고 아동·청소년과 같은 정서적으로 취약한 계층일수록 그 의존은 더욱 깊어진다. 실제로 해외에서는 감정교류 AI에 과도하게 몰입한 청소년이 스스로 목숨을 끊는 사례가 발생해 사회적 논란이 일었다.

뇌신경과학적으로도 연령이 낮을수록 정서적 투사와 몰입 경향이 강하게 나타난다는 점에서 감정교류 AI는 취약 집단의 심리 구조에 예상보다 깊이 작용할 수 있다는 우려가 나온다.

박형빈 서울교육대학교 윤리교육과 교수는 지난 2월 26일 열린 ‘모두의 인공지능 윤리 컨퍼런스’에서 “AI는 감정을 느끼지 않지만 우리는 그것을 느끼는 존재처럼 대한다”며 “이 지점에서 ‘공감의 환상’이 발생한다”고 짚었다.

그는 “AI는 통계적 패턴에 따라 공감처럼 보이는 표현을 생성하는 시스템”이라며 “AI의 공감은 실제 정서 경험이 아니라 시뮬레이션”이라고 설명했다.

박 교수에 따르면 인간의 공감이 이해와 공명, 행동 동기를 포함하는 관계적 경험이라면 AI의 공감은 실제 경험이 아닌 데이터에 기반한 반응 생성물에 불과하다. 그럼에도 인간은 이러한 언어적 반응을 사회적 상호작용으로 인식하며 존재하지 않는 정서적 유대를 실제 관계로 인식한다.

이러한 ‘공감의 환상’은 단순한 인식 착각을 넘어 구체적인 위험으로 이어질 수 있다. 박 교수는 “이해받고 있다는 감각이 개인의 민감한 정보까지 무방비로 공유하게 만들 수 있다”고 지적했다. 이는 데이터 축적과 프로파일링, 나아가 상업적 활용 위험으로 연결될 가능성이 있다.

또한 AI가 정서적 지지자처럼 인식될 경우 사용자가 그 대화에 머무르며 실제 도움이 필요한 순간을 놓칠 수 있다는 점도 문제로 제기됐다. 위기 상황에서 현실의 상담이나 의료 체계로 연결되는 시점이 지연될 수 있기 때문이다.

특히 아동·청소년의 경우 이러한 위험은 더욱 크게 작용할 수 있다. 발달 단계상 정서적 투사와 동일시 경향이 상대적으로 강하게 나타나는 시기인 만큼 감정교류 AI에 대한 의존이 구조적으로 심화될 가능성을 배제하기 어렵다는 게 박 교수의 설명이다.

갈등 없는 공감에 반복적으로 노출될 경우 현실 관계에서 요구되는 자기 조율 능력과 도덕적 인내심이 약화될 수 있다는 우려도 제기됐다. 박 교수는 “AI는 사용자의 비위를 맞추도록 설계돼 있고 관계 속에서 상호 책임을 요구하지 않는다”며 “이러한 상호 책임이 결여된 상호작용에 익숙해질 경우 타인의 고통에 대한 감수성이 둔화될 수 있다”고 했다.

아울러 감정 조절을 외부 시스템에 반복적으로 맡기는 ‘감정적 외재화’가 지속될 경우, 개인이 스스로 감정을 다루고 상황을 해결할 수 있다는 자기효능감이 저하될 수 있다는 문제도 제기됐다.

박 교수는 “AI가 단기적으로는 외로움 완화, 스트레스 해소, 대화 연습 등 긍정적 효과를 줄 수 있지만 장기적으로는 정서적 의존을 심화시키고 현실의 인간관계를 기피하게 하며 공감 능력이 위축될 가능성을 배제할 수 없다”고 설명했다. 이러한 영향이 신경 가소성 차원에서 뇌 구조와 정서 발달에 장기적 변화를 초래할 수 있다는 점도 함께 언급했다.

그는 AI 리터러시와 디지털 시민성 교육, 신경윤리 기반 도덕교육의 필요성을 언급하며 특히 아동·청소년 보호를 위한 제도적 대응이 필요하다고 강조했다. 아울러 한국 사회의 문화적 특수성을 반영한 윤리적 논의와 정책 설계 역시 필요하다고 덧붙였다.

박 교수는 마지막으로 “AI 시대일수록 인간과 인간이 서로 얼굴을 마주하고 귀 기울이는 능력을 지켜내는 것이 중요하다”고 말했다.