앤트로픽 전 연구원, AI 통제권 상실 및 인류 멸종 경고 | 종합

1시간 전 106 읽음

앤트로픽 전 연구원, AI 통제권 상실 및 인류 멸종 경고

아주경제

인공지능(AI) 개발 경쟁의 위험성을 경고하며 앤트로픽을 퇴사한 연구원이 “인류가 AI에 통제권을 잃을 가능성이 더 크다”고 경고했다.

5일(현지시간) 블룸버그와 CNBC 방송에 따르면 앤트로픽 전 연구원 제이컵 콕슨은 이날 뉴욕시의회 AI 청문회에 출석해 “우리는 아직 어떤 AI 시스템도 통제하는 방법을 모른다”면서 이같이 말했다.

콕슨은 오픈AI와 앤트로픽에서 3년간 사전 훈련 연구(pretraining research)를 담당했다. 그는 지난달 8일(현지시간) 자신의 소셜미디어 엑스(X)에 퇴사 소식을 알리며 “어느 회사도 책임감 있게 행동하지 않고 있다. (두 회사가) 우리의 생명을 두고 도박을 하고 있다”고 비판한 바 있다.

그는 이날 청문회에서 “현재 경로대로라면 인류가 AI에 통제권을 잃을 가능성이 그렇지 않을 가능성보다 크며, 이는 인류 멸종으로 끝날 수도 있다”고 말했다.

콕슨은 줄리 메닌 뉴욕시의회 의장의 요청으로 청문회에 출석했다. 메닌 의장은 AI 규제 법안 패키지를 추진 중이다. 이 법안은 총 10건의 조례로 구성됐다. 위급 상황 발생 시 즉각 시스템 작동을 멈추는 ‘킬 스위치’ 도입 의무화를 비롯해 AI 시스템을 뉴욕시에서 판매·배포하기 전 제3자 안전 검증 의무화, 내부 고발자 보상 프로그램 도입, 규정 위반 시 건당 최대 2만 5,000달러(약 3,400만 원)의 벌금 부과 등이 핵심 내용으로 담겼다.

콕슨은 이 중 ‘킬 스위치’에 대해 “단기적으로는 도움이 될 수 있지만 장기적으로 안전을 보장하기에는 충분하지 않다”고 지적했다.

이날 청문회에는 오픈AI, 앤트로픽, 구글 등 빅테크 기업 관계자들도 화상으로 출석해 증언했다. 시의회는 출석 요청에 응하지 않은 스페이스X의 AI 부문에 대해 소환장을 집행해 달라고 법원에 요청하겠다고 밝혔다.

도널드 트럼프 행정부가 AI 규제에 대체로 불개입 기조를 유지하는 가운데 뉴욕 등 주·지방 정부가 독자 규제에 속도를 내면서 연방과 지방 간의 엇박자도 커지고 있다.