149 읽음
AI 검색 및 번역 오류 주의, 맹신 시 사고 위험 급증
위키트리
0
클로드·챗GPT·제미나이 같은 AI 챗봇이 웹 검색까지 대신해 주는 일이 늘고 있다. 그만큼 틀린 답을 그대로 믿었을 때의 부작용도 현실에서 드러난다. 와이어드(Wired)는 AI 검색을 써도 되는 질문과 조심해야 할 질문을 짚었다. 또 다른 와이어드 보도는 챗봇에 기대 산에 올랐다가 구조 요청까지 간 사례를 전했다. 번역 분야에서는 유창한 문장 속에 오류가 숨어 있다는 전문가의 분석도 나왔다.
와이어드에 따르면 최신 챗봇은 웹 검색을 요청받으면 전통적인 웹 검색 요소와 학습 데이터에서 끌어낸 지식을 함께 엮는다. 사용자를 대신해 구글링을 하는 것이나 마찬가지다. 결과물은 이제 익숙해진 매끈한 생성형 AI 문체로 정리돼 나온다. 질문에 따라 챗봇이 더 관련성 높은 결과를 찾아주기도 하는데, 구글이 자사 검색엔진에서 AI 모드를 적극 밀고 있는 이유도 여기서 찾을 수 있다고 와이어드는 설명했다.
차이는 전통 검색 위에 얹힌 AI 요소에서 생긴다. 그래서 AI 검색이 언제나 최선의 선택은 아니라는 것이 와이어드의 진단이다. 엠파이어 스테이트 빌딩의 높이처럼 단순하고 널리 알려진 정보라면 AI 검색은 꽤 안전한 선택이다. 이런 정보는 온라인에서 쉽게 구할 수 있다. 대형언어모델(LLM)이 선호하는 ‘자동완성’식 확률 패턴상 결과에 정답이 담길 가능성도 거의 확실하다.
문제는 질문이 마이너해질 때다. 와이어드는 덜 알려진 TV 프로그램에서 출연진 순서상 다섯 번째로 이름이 오른 배우를 묻는 경우를 예로 들었다. 웹에 관련 언급이 한두 건뿐일 수 있고, AI가 엉뚱한 쪽을 골라 답할 수 있다는 것이다. 간단히 찾아보는 용도라면 AI도 괜찮지만 질문이 모호할수록 답을 더 꼼꼼히 들여다봐야 한다는 조언이다.
생성형 AI의 실시간 번역은 빠르고 대체로 무료라서 외국어를 배울 필요가 있느냐는 얘기까지 나온다. 하지만 TechXplore에 실린 글은 번역이 완벽과는 거리가 멀다고 지적했다. 글쓴이는 영어와 중국어 사이의 실제 AI 번역을 검토하는 전문 업무를 하며 문제 사례를 접했다고 밝혔다. 번역문이 매우 유창해도 정확성이 보장되는 것은 아니고, 이중언어에 능숙한 사람도 표면 아래 숨은 오류를 놓칠 수 있다고 했다.
단어 수준의 사례가 대표적이다. 한 유학생이 호주 교수들이 수업에 ‘thongs’를 신고 올 만큼 느긋하다고 묘사한 글이 있었다. AI는 이 호주식 표현을 플립플롭(고무 슬리퍼)이 아니라 G스트링(속옷)으로 해석했다. 시제도 문제가 된다. 중국어 동사는 영어처럼 형태가 바뀌지 않고 맥락이나 다른 단어로 시간을 나타낸다. 그래서 중국어를 영어로 옮길 때 AI가 잘못된 시제를 골라 일이 벌어졌는지, 벌어지는 중인지, 벌어질 것인지를 바꿔 버릴 수 있다.
문장과 글 전체 수준에서도 오류가 생긴다. “You can see him in the store”는 그 사람이 가게 안에 있다는 뜻일 수도, 보는 사람이 가게 안에 있다는 뜻일 수도 있다. 사람 번역가는 맥락으로 모호함을 풀지만 AI는 다음에 올 만한 단어를 예측해 결정한다. 영어의 정관사 ‘the’처럼 앞서 나온 대상을 가리키는 장치가 중국어에는 없어서, AI가 지시 관계를 잘못 연결해 독자를 헷갈리게 할 수도 있다. 전체 결과물이 자연스러우면 실수를 나중에 발견하기도 어렵다.
언어는 정보 전달만 하는 것이 아니라 관계를 맺는 수단이기도 하다. 글쓴이는 호주 정부의 공문이 ‘우리’와 ‘당신’을 써서 대중과 가까운 관계를 만드는 반면 중국어 같은 언어는 거리감과 권위를 위해 3인칭과 격식 있는 단어를 선호할 수 있다고 예를 들었다. 신경다양성(neurodiversity) 같은 용어는 다른 언어에 널리 자리 잡은 대응어가 없을 수도 있다.
낙인을 없애려고 공동체가 기존 표현을 새 용어로 바꾸는 경우도 있다. 중국어에서 트랜스젠더를 가리키는 용어가 변해 왔고 더 포용적인 표현이 인정받고 있다는 설명이다. 새 표현이 학습 데이터에서 적게 나타나면 AI가 낡았거나 덜 적절한 용어를 그대로 쓸 수 있다. 번역문이 언어적으로는 이해되지만 사회적으로는 둔감할 수 있다는 얘기다.
글쓴이가 꼽은 신뢰 조건은 네 가지다. 두 언어에 걸쳐 익숙하고 단순한 주제이면서 문화 차이나 민감한 이슈가 없어야 한다. 원문의 문법이 맞고 문장 구조가 명확해 모호함이 없어야 한다. 영어·중국어·프랑스어·스페인어처럼 많이 쓰이는 언어라서 학습 데이터가 풍부해야 한다. 번역의 맥락·독자·목적·언어적 특징을 분명히 밝힌 효과적인 프롬프트도 필요하다. 번역 전용으로 훈련된 신경망 기계번역 기술과 결합되면 정확도가 더 높아지지만, 흔한 무료 AI 플랫폼에서는 보통 쓰기 어렵다고 했다. 이 조건을 모두 갖춰도 정확성은 보장되지 않는다.
오답의 대가가 가장 무겁게 나타난 곳은 산이다. 와이어드가 하이컨트리뉴스(High Country News) 기사를 옮겨 전한 내용에 따르면 캘리포니아 북부 샤스타산에서 20세 등산객 3명이 바위 면에서 구조를 요청했다. 이들은 음식을 충분히 챙기지 않았고 체력도 과대평가했다. 늦은 오후에 되돌아가지 않고 오후 7시 30분에 정상에 올랐다가 어둠 속에서 내려와야 했다. 아침이 되자 험한 구간에서 길을 잃었고 한 명은 무릎을 다쳤다. 이들은 준비 부족과 계획 미흡이 부분적으로 구글의 AI 챗봇 제미나이에 의존한 데서 비롯됐다고 나중에 인정했다.
구조 요청에 대응한 미국 산림청 소속 샤스타산 황야 등반·눈사태 센터의 프로그램 관리자 닉 마이어스(Nick Meyers)는 이렇게 말했다. “준비 없이 오거나 조사를 전혀 안 하는 사람이 많은데, 이들은 그래도 시도는 했다. 하지만 머리를 꺼 버린 것 같다.” 마이어스는 다른 사례도 소개했다. 한 방문객은 ‘야영 금지’ 표지판 근처에 텐트를 쳐 놓고 AI가 된다고 했으니 그럴 권리가 있다고 우겼다. 한 남성은 AI가 만든 지도를 들고 등산로 입구를 헤맸는데, 그 지도에는 인근 산의 주요 지형이 반대편에 표시돼 있었다.
캐나다 브리티시컬럼비아에서는 구조대 헬리콥터가 크라운산 뒤편 위도메이커 아레트의 바위 턱에서 16세 등산객을 구조했다. 이 10대는 앤트로픽의 챗봇 클로드로 여행 계획을 세웠다. 이 사실에 초점을 맞춘 뉴스가 캐나다와 미국에서 화제가 됐지만, 그는 나중에 구글 지도와 인기 등산 앱 올트레일스(AllTrails)도 참고했다고 밝혔다.
와이오밍의 그랜드티턴 국립공원은 지난 1년간 여행 정보에 AI를 쓴다고 답한 방문객 비율이 눈에 띄게 늘었다. 공원 관리 책임자 칩 젠킨스는 “0에서 26%로 올랐고 이 곡선이 꺾이지는 않을 것 같다”고 말했다. 다만 AI 사용 증가가 실제 사고와 구조 요청 증가로 이어질지는 지켜봐야 한다는 것이 마이어스의 말이다. 그의 사무소는 매년 평균 12건 안팎의 구조를 맡는데 올해도 평균적인 해가 될 조짐이다. 와이오밍의 구조 요청은 올해 지금까지 312건으로, 2025년 한 해 466건과 2024년 377건에 못 미친다.
구조 베테랑 중에는 AI 챗봇을 사람들이 곤경에 빠지는 새로운 경로 중 하나로 보는 이들도 있다. 약 10년 전에는 인스타그램 같은 소셜미디어에서 목적지와 정보를 얻다 때로 치명적인 결과를 맞은 사례가 있었다. 그 이전에는 구글 지도나 스마트폰 연결에 의존하다 길을 잘못 든 사람들이 있었다.