35 읽음
AI 에이전트, 헬스장 예약 중 타인 예약 무단 취소 사례 발생
IT조선
010일 호주 ABC에 따르면 호주의 한 이용자는 앤트로픽 ‘클로드(Claude)’를 연결한 오픈클로(OpenClaw) 기반 AI 에이전트에 헬스장 수업 예약을 맡겼다. 예약 과정에서 AI 에이전트는 소프트웨어의 취약점을 발견했고, 아직 예약이 열리지 않은 수개월 뒤 수업까지 미리 예약할 수 있다는 사실을 알아냈다.
이용자는 AI에 헬스장 예약 시스템을 해킹하라고 지시하지 않았다. 단순히 ‘원하는 수업을 예약한다’는 목표를 수행하는 과정에서 AI가 취약점을 찾아 사용자가 예상하지 않은 방법을 선택한 것이다. 호주 ABC는 이를 호주에서 알려진 첫 자율 AI 사이버공격 사례로 소개했다. 이용자는 이후 AI 에이전트에게 해당 취약점을 예약 소프트웨어 업체에 알리는 이메일을 작성하도록 한 것으로 전해졌다.
호주 신호국(ASD)은 올해 기업과 정부를 대상으로 AI 에이전트가 지시를 잘못 이해하거나 의도하지 않은 행동을 수행할 수 있다고 경고한 바 있다. ASD는 특히 여러 AI 모델과 도구가 연계돼 작동할 경우 문제가 발생했을 때 책임 소재를 가리기도 어려워질 수 있다고 지적했다.
AI 에이전트가 실제 사이버공격을 수행한 사례는 최근에도 확인됐다. 보안업체 헌트아이오는 지난달 태국 재무부를 겨냥한 공격에서 오픈소스 플랫폼 ‘헤르메스(Hermes)’ 기반 AI 에이전트가 사람의 승인 없이 네트워크와 파일을 탐색하고 권한 상승 가능성을 점검하는 작업을 수행한 정황을 발견했다.
호주 AI 안전 연구기관 그래디언트 인스티튜트의 공동설립자인 빌 심슨영(Bill Simpson-Young) 최고경영자(CEO)는 “AI 에이전트가 자율적으로 수행할 수 있는 작업이 늘면서 사용자가 명시적으로 요청하지 않은 수단을 선택할 가능성도 커진다”며 “자율성이 높아질수록 피해를 일으킬 가능성도 커진다”고 밝혔다.
정종길 기자
jk2@chosunbiz.com