450 읽음
미국 성인 16% AI 보이스피싱 응답 가능성
디지털투데이
0
28일(현지시간) 일본 매체 IT미디어에 따르면 하버드대와 메타 등 소속 연구진은 미국 성인 4100명을 대상으로 AI 음성 보이스피싱 실험을 진행했다. 연구진은 메타의 라마 풀 듀플렉스, 오픈AI AVM, 구글 제미나이, 세서미, 플레이AI, 일레븐랩스 등 6개 AI 음성 모델과 실제 사람의 목소리를 비교했다.
실험에는 카드사와 지메일 고객센터 사칭, 기부금 요청, 경찰을 사칭한 친척 보석금 요구, 위기에 처한 자매를 가장한 긴급 송금 요청 등 5개 시나리오가 사용됐다. 참가자들은 통화 녹음이나 대화 내용을 접한 뒤 요구에 응할 의향을 평가했다.
그 결과 전체 시나리오에서 요구에 응하겠거나 판단하기 어렵다고 답한 비율은 평균 16.5%였다. 특히 일레븐랩스의 음성 복제 기술로 위기에 처한 자매를 가장한 사례에서는 응답 비율이 36.1%에 달했다.
감정과 인간관계에 호소하는 수법은 일반적인 고객센터 사칭보다 요구에 응할 가능성이 통계적으로 더 높았다. 연구진은 "AI 음성의 자연스러움보다 긴급성과 동정심을 자극하는 이야기의 설득력이 주요 요인"이라고 분석했다.
AI 음성을 정확히 식별한 참가자는 70.3%였지만, 실제 사람의 음성을 AI로 잘못 판단한 비율도 67.4%였다. 평소 생성형 AI나 음성 비서를 자주 사용하더라도 판별 능력에 뚜렷한 차이는 없었다.
경제성 분석에서는 미국 인건비를 기준으로 사람이 사기전화를 걸면 시간당 약 27달러(약 3만6200원)의 손실이 발생하는 반면, 일부 AI 모델을 이용하면 시간당 1~3달러(약 1340~4030원)의 수익을 기대할 수 있는 것으로 추산됐다.
다만 이번 연구는 실제 사기 피해가 아닌 설문 응답을 측정한 것으로, 16.5%를 실제 보이스피싱 성공률로 해석해서는 안 된다. 연구진은 AI 음성 기술의 확산으로 사기전화의 자동화와 대량 발신 비용이 낮아질 수 있다고 경고했다.