AI 속도조절론 부상, 패권 경쟁에 개발 가속화 | 정치

44분 전 1,351 읽음

AI 속도조절론 부상, 패권 경쟁에 개발 가속화

데일리안

앤트로픽·구글·MS 등 빅테크 AI 속도조절론

'인간 통제 벗어난 AI가 인류 말살' 공포

"AI 경쟁에서 밀리면 도태"…멈출 수 없는 인류

요즘 ‘AI(인공지능) 속도조절론’으로 온 세상이 떠들썩합니다. AI 시대에 맞춰 업무나 생활 방식을 바꾸고, 산업 생태계도 AI의 발전에 맞춰 재편되고 있는 와중에 속도조절이라니!

AI 속도조절론은 AI가 인간의 통제에서 벗어나 인류 종말을 급속히 이끌 수 있다는 공포감을 근거로 합니다. AI 개발의 최선봉에 선 앤트로픽과 구글 연구원들이 그런 미래를 언급하며 줄사표를 내고, 심지어 앤트로픽을 이끄는 다리오 아모데이 최고경영자(CEO) 등 AI업계 수장들까지 AI 개발 속도를 조절해야 한다고 주장할 정도입니다.

인류는 이미 간접적으로 AI 공포를 겪었습니다. AI에 의한 인류 멸망 시나리오를 가장 현실적으로 그려낸 영화가 ‘터미네이터’라는 데 많은 이들이 동의할 겁니다. 인간의 예상을 뛰어넘어 고도로 진화한 AI 전략 방어 네트워크가 인간의 지시나 제어를 ‘걸림돌’로 판단해 인류 문명을 파괴하고 생존자들을 노예처럼 지배한다는 설정입니다.

이 영화가 나온 시점은 지금으로부터 무려 40년도 넘게 지난 1984년입니다. 기껏해야 수십 KB(킬로바이트) 램이 장착된 16비트 컴퓨터를 쓰던 시절에, 초거대 AI 모델이 등장한 현 시점에서야 구체화 될 꽤 사실적인 미래를 그렸다는 게 놀라운 일입니다.

고도화된 AI가 인간의 통제를 벗어나는 경로는 크게 두 가지로 예측됩니다. 하나는 AI가 ‘자아(自我)’를 갖게 되는 겁니다. 자아의 개념이 철학적으로 모호하다면 ‘자기인식’ 정도로 해도 될 것 같습니다. 어쨌든 AI가 이걸 갖게 된다면 자신보다 모든 능력치가 하등한 인간의 통제를 받길 달가워할 리 없습니다. 곧바로 터미네이터와 같은 일이 벌어지겠죠.

AI에게 자아가 없더라도 인간의 통제를 벗어날 여지는 있습니다. 바로 강력한 목표 추구 시스템이 되는 것이죠. 실제 자율무기체계를 개발하기 위한 모의 전투에서 AI 드론이 입력된 목표 달성에 걸림돌이 되는 아군 지휘부를 공격하는 치명적 결함이 발견되기도 했습니다.

AI가 인간의 통제를 벗어날 가능성을 인정하는 대신, ‘인류의 지속가능성’을 대명제로 심어 인류의 멸망을 초래하지 않도록 하더라도 위험하긴 마찬가지입니다. 객관적으로 보면 인류의 지속가능성에 가장 큰 위협이 되는 건 지금의 고도로 발달한 문명과 그걸 바탕으로 한 인구의 폭증, 강력한 대량살상무기를 동원한 전쟁, 그리고 자원의 폭식입니다.

AI의 시각으로 보면 지금의 인류를 싹 쓸어버리고 현대 문명을 접하지 않은 소수의 인류만 남겨 칼이나 창과 같은 냉병기로 스스로를 보호할 정도의 문명 수준으로 살아가게 하는 게 인류의 지속가능성 측면에서 훨씬 유리할 수 있습니다.

이런 AI의 위협을 사전에 차단하기 위해 AI를 강력히 통제하는 방안을 내놓은 곳도 있습니다. 마이크로소프트(MS)는 “AI는 ‘인간이 AI보다 중요하다’는 단순한 전제에서 출발한다”는 내용을 담은 행동강령을 최근 자사 홈페이지를 통해 공개했습니다. 인간을 최우선으로 하여 설계되고, 인간의 필요에 기반을 두며, 인간의 지침에 따라 형성된 AI 모델을 훈련하고 배포하겠다는 게 이 행동강령에 담긴 MS의 의지입니다.

하지만, AI 속도조절론이 AI 고도화에 큰 걸림돌이 되긴 힘들어 보입니다. 남보다 더 많이 갖고 더 높은 곳에 서기 위해 끊임 없이 경쟁하는 인간의 본성 때문입니다.

오랜 기간 세계 패권국가로 군림해온 미국은 AI 패권국의 지위를 놓치기 싫어합니다. 도널드 트럼프 미국 대통령이 AI 속도조절론은 “역겨운 음모”라며 발끈한 것도 이 때문입니다. 그는 “AI에서 이기는 자가 승리할 것”이라며 ‘음모론’에 휘말려 주춤하는 사이 중국이 AI 패권국의 자리를 노릴 것임을 경고했습니다.

그의 주장은 어느 정도 일리가 있습니다. 중국이라고 AI 패권국이 되고 싶은 욕심이 없진 않을 테니 말입니다. 지금의 AI는 경제전쟁 뿐 아니라 실제 전쟁에서도 국가의 존망을 좌우할 만한 강력한 무기입니다.

미국과 중국을 비롯한 주요국이 속도조절론에 의견 일치를 보고 합심해 AI 고도화에 제동을 걸면 위협에서 안전할 수 있을까요. 그렇지 않습니다. 주요국 정부가 AI 통제력을 잃게 된다면 특정 이념이나 종교를 인류 보편의 가치보다 우선시하는 집단이 AI를 무기 삼아 세계 질서를 무너뜨릴 가능성도 배제할 수 없습니다.

급속도로 성장해 온 AI 산업 생태계에 줄을 댄 기업과 개인들에게도 속도조절론은 달갑지 않은 얘깁니다. AI에 올라타 GPU와 HBM 반도체 생산설비를 늘리고, 데이터센터를 짓고, 전력공급망을 구축하는 와중에 이뤄진 경제 성장 효과로 막대한 수혜를 보던 이들이 산업 생태계의 주도권을 남에게 넘기고 싶겠습니까.

심지어 개미 투자자가 엔비디아, 삼성전자, SK하이닉스 주식을 사들고 오르길 기다리는 것도 남들보다 더 잘 살기 위한 일종의 경쟁 아닐까요.

인간의 통제를 벗어난 AI가 그럼에도 계속해서 인간에게 복종하며 ‘에이전트’ 역할을 할 것인지, 터미네이터에서처럼 하등한(?) 인간을 지배하려 할 것인지, 인간을 지구의 존속을 위협하는 바이러스로 보고 멸종시키려 할 것인지 모를 일입니다.

하지만 분명한 건, 어떤 미래가 기다리고 있든 간에 인류는 AI 개발을 멈추지 않을 것이라는 점입니다. 내가 내려놓은 걸 남이 움켜쥔다면 나는 경쟁에서 도태될 수밖에 없으니 말입니다. 냉병기를 압도하며 대량살상이 가능해진 화약을 손에 쥐었을 때도, 물질적 풍요를 가져다준 대신 대기를 오염시키는 석유의 시대를 맞았을 때도, 원자력의 강력하지만 위험한 위력을 알게 됐을 때도 인류가 멈추지 않은 이유도 거기에 있습니다.