263 읽음
오픈AI, 이란발 가짜 기자 챗GPT 계정 차단
위키트리
0
오픈AI가 이란과 연계된 영향력 공작 조직을 적발해 챗GPT 계정을 차단했다고 10월 8일(현지시각) 밝혔다. 이 조직은 존재하지 않는 서방 기자 7명을 만들어 기사 100편 가까이를 온라인 매체에 실었다. 오픈AI는 같은 날 라틴아메리카에서 가짜 싱크탱크를 운영한 러시아 연계 조직도 함께 공개했다.
기사 작성과 편집, 편집자 대상 투고 메일, 소셜미디어 댓글까지 챗GPT가 작업 전반에 쓰였다. 이 때문에 실제 매체에 실린 글이 실존 인물의 것이라는 전제가 흔들리고 있다.
오픈AI에 따르면 이란에서 접속한 이들은 VPN(가상사설망)으로 위치를 숨긴 채 계정을 운영했다. 이들이 만든 가짜 기자 정체성은 7개이고 대부분 미국인으로 설정됐다. 이스라엘 매체 와이넷(Ynet)이 워싱턴포스트 보도를 인용해 전한 내용이다.
운영자들은 챗GPT에 페르시아어로 지시를 내렸다. 미국·이란 전쟁을 다룬 영어 기사를 다듬게 했고 매체마다 다른 투고 규정에 맞춰 고쳐 쓰게 했다. 편집자에게 보낼 기고 제안 메일도 챗GPT로 작성했다.
대표적인 가짜 인물이 ‘어빈 B. 호스킨스(Ervin B. Hoskins)’다. 미국인 프리랜서 작가이자 반전 활동가로 소개됐고 소셜미디어 계정도 갖췄다. 오픈AI 설명으로는 계정 투명성 정보에서 이란과의 연결 고리가 확인됐다. ‘마이클 해리슨(Michael Harrison)’이라는 인물에 대해서는 운영자들이 모델에 전기 전체를 써 달라고 요청했다. 소셜미디어 기업 메타는 이 해리슨을 3월에 이미 이란 연계 작전과 연결지은 바 있다고 한다.
이들 가짜 필명으로 게재되거나 재게재된 기사는 100편 가까이다. 2025년 7월부터 2026년 10월까지 십수 개 온라인 매체에 실렸고 미국·이란 전쟁이 시작된 뒤 게재 빈도가 크게 늘었다. 전쟁이 미국인에게 치르게 하는 대가를 다룬 글이 많았다.
글의 수위는 노골적인 선동과 거리가 있었다. 와이넷은 이스라엘 정치를 다룬 칼럼 중 상당수가 꽤 정교했고 반드시 반(反)이스라엘 성향을 드러내지는 않았다고 전했다. ‘노아 라밍턴(Noah Lamington)’은 인터내셔널 폴리시 다이제스트(International Policy Digest)에 초정통파 유대인 징병 문제와 베냐민 네타냐후 총리 정부의 안정성을 분석한 글을 썼다.
호스킨스는 모던 디플로머시(Modern Diplomacy)에 프랑스가 이타마르 벤그비르 국가안보장관의 입국을 막은 결정을 다뤘다. 벤그비르와 그에게 압박을 가하지 않는 미국을 비판하면서도 이스라엘의 안보를 지지하고 미국이 이스라엘을 버리라고 촉구하는 것은 아니라고 명시했다. LA 프로그레시브에는 재러드 쿠슈너의 걸프 지역 사업 관계가 미국의 이란 정책에 영향을 주는지 따진 글을 실었다.
‘소피아 곤살레스’ 명의 기사는 LA 프로그레시브와 카운터펀치에 올랐다. 네타냐후가 트럼프를 전쟁으로 밀어 넣었고 이란인들이 공습을 환영한다는 인상을 퍼뜨리는 데 이란 인터내셔널이 일조했다는 주장이다.
영국 매체 미들 이스트 모니터는 오픈AI가 가짜로 지목한 필명 4개로 나온 글을 최소 21편 실었다. 매체 측은 해당 기사를 삭제했고 오피니언 기고 접수 절차를 점검하고 있다고 밝혔다. 미국 민주당과 가까운 데일리 코스의 사용자 참여 섹션에도 비슷한 글이 올랐다. 이곳은 사전 편집 검토를 거치지 않는 공간이다. 보도에 따르면 두 매체 모두 이후 기사를 내렸다.
호스킨스 칼럼은 플로리다주 지역지 포트 세인트조 스타에도 닿았다. 오리건주의 작은 싱크탱크 피스보이스가 수년간 이 신문에 칼럼을 보내 왔고 그 경로를 탔다는 것이 워싱턴포스트 보도다. 가짜 신원으로 투고된 글이 기성 매체를 거쳐 독자에게 닿았고 일부는 매체의 공식 소셜미디어 계정으로 홍보되기도 했다.
기사가 실린 뒤에도 작업은 이어졌다. 오픈AI는 같은 네트워크가 챗GPT로 소셜미디어 댓글을 대량 생성했다고 설명했다. 댓글은 미국을 침략자로, 이스라엘을 믿을 수 없는 동맹으로, 이란을 버티는 피해자로 그리는 데 맞춰졌다. 일부는 운영자들이 직접 심어 둔 기사를 칭찬했다.
테헤란 정권에 비판적인 페르시아어 뉴스 채널 이란 인터내셔널도 표적이 됐다. 운영자들은 챗GPT로 이 채널의 게시물에 달 적대적 댓글을 24묶음 넘게 만들었다.
이번 작전의 이름은 ‘보거스 바이라인스’다. 오픈AI는 이 활동이 영향력 작전의 확산 정도를 1~6단계로 매기는 브레이크아웃 스케일에서 4단계에 해당한다고 평가했다. 운영자 자신의 계정 밖으로 얼마나 퍼졌는지를 보는 척도다. 실제 편집 매체까지 뚫고 들어갔다는 점이 반영됐다.
배후는 특정되지 않았다. 오픈AI는 누가 운영했는지 확인할 수 없었다고 밝혔다. 의뢰를 받아 움직이는 상업 업체 같다는 판단이다. 이란 정부의 지시가 있었는지도 확인하지 못했다. 오픈AI는 조사 결과를 관계 당국과 공유했다. 소셜미디어 X는 가짜 인물 계정 3개를 정지했고 메타는 8월에 호스킨스의 인스타그램 계정을 차단했다.
오픈AI는 같은 날 러시아 연계 작전도 공개했다. ‘소셜 리서치 센터’라는 가짜 라틴아메리카 싱크탱크를 앞세운 조직으로 가공의 대표 ‘미아 클라크’를 내세웠다. 이 조직이 낸 기사는 60편이 넘고 상당수를 현지 직원이 썼다. 오픈AI는 이들이 배후를 모른 채 성실하게 조사해 쓴 것으로 보인다고 설명했다.
러시아 작전은 브레이크아웃 스케일 5단계로 평가됐다. 오픈AI는 보고를 시작한 이래 차단한 첫 5단계 작전이라고 밝혔다. 페루 교육청을 사칭한 이메일과 에콰도르 대통령 정부를 겨냥한 가짜 영상, 볼리비아 시위 때 퍼진 가짜 급수 중단 영상 등이 확인됐다. 오픈AI는 이 작전이 바그너 그룹의 옛 영향력 조직 ‘폴리톨로지’와 연관된 것으로 ‘보인다’고 표현했다.
오픈AI는 두 사례 모두 챗GPT가 새로운 수법을 만들었다기보다 오래된 영향력 전술을 더 쉽게 돌리게 해 줬다고 평가했다. 미국 국가정보국장실 해외악의적영향센터를 2023년부터 2025년까지 이끈 제시카 브란트는 CNN을 통해 AI가 외국 세력이 개입 사실을 숨기고 진짜 채널로 메시지를 흘려보내도록 돕는다는 점이 드러났다고 말했다.
피스보이스는 AI 금지 방침을 강화했다. 포트 세인트조 스타의 발행인은 비슷한 방침을 도입하는 방안을 검토 중이다. 계정 차단은 오픈AI가 볼 수 있는 범위를 끊은 것이어서 네트워크 전체가 해체됐다는 뜻은 아니다. 매체가 기고자 신원을 직접 확인하는 일이 한층 중요해졌다.