125 읽음
AI 성능 경쟁, ‘연산’에서 ‘데이터 이동’으로… 네트워크가 승부 가른다
IT조선
0빌 가트너(Bill Gartner) 시스코 옵티컬 시스템(Optical Systems) 부문 수석 부사장은 8일 서울 강남구 코엑스에서 열린 ‘시스코 커넥트 2026 코리아’ 미디어 라운드테이블에서 이같이 말하며, AI 인프라 경쟁의 핵심이 네트워크로 이동하고 있다고 강조했다.
그는 “기존에는 모델 성능과 그래픽처리장치(GPU) 확장이 중심이었다면, 이제는 데이터가 시스템 간을 어떻게 오가느냐가 더 중요해졌다”며 “AI는 점점 더 분산된 구조로 동작하고, 그만큼 네트워크의 역할이 커지고 있다”고 설명했다.
이로 인해 데이터 이동량은 기하급수적으로 증가하고 있다. 단순 질의응답을 넘어 계획 수립, 도구 호출, 상태 저장 등을 반복하는 에이전트 특성상, 내부적으로 생성되는 중간 데이터와 컨텍스트도 빠르게 누적된다. 이 과정에서 네트워크 지연(latency)과 대역폭이 전체 처리 속도에 직접적인 영향을 미친다.
가트너 부사장은 “연산 성능이 충분하더라도 데이터를 제때 전달하지 못하면 전체 시스템은 그 속도에 맞춰 느려질 수밖에 없다”며 “AI 인프라에서 병목은 점점 네트워크로 이동하고 있다”고 말했다.
이러한 흐름에 따라 데이터센터 설계 방식도 변화하고 있다. 가트너 부사장은 “기존에는 단일 시스템 내부 성능을 키우는 ‘스케일 업(scale-up)’이나 여러 시스템을 묶는 ‘스케일 아웃(scale-out)’이 중심이었다면, 이제는 데이터센터 간을 연결하는 ‘스케일 어크로스(scale-across)’가 중요해지고 있다”고 설명했다. 단일 시스템이나 클러스터 단위를 넘어, 물리적으로 분산된 인프라를 하나의 환경처럼 연결하는 구조로 확장되고 있다는 의미다.
시스코는 이러한 변화를 반영해 네트워크 장비와 광통신 기술을 함께 고도화하고 있다. 스위치 전용 칩 ‘실리콘 원(Silicon One) G300’은 102.4Tbps급 대역폭을 지원하며, 대규모 AI 워크로드에서 발생하는 데이터 흐름을 처리하도록 설계됐다. 여기에 1.6Tbps 광모듈과 800G LPO(Linear Pluggable Optics·저전력 저지연 광연결) 기술을 통해 전송 속도와 지연, 전력 효율을 동시에 개선하고 있다.
이들 기술은 단순 속도 경쟁을 넘어 전력 효율과 지연 시간을 동시에 관리해야 하는 AI 데이터센터 환경에서 핵심 요소로 꼽힌다. 특히 여러 지역에 분산된 인프라를 연결하는 경우 물리적 거리 자체가 설계 변수로 작용한다. 가트너 부사장은 플러거블 코히어런트 옵틱스 기술을 통해 최대 1000km 이상 떨어진 데이터센터 간 연결을 지원할 수 있다고 설명했다.
AI 경쟁의 기준은 이제 단순한 연산 능력을 넘어 데이터를 어떻게 이동시키고 연결하느냐로도 확장되고 있다. 시스코는 이러한 변화를 가능하게 하는 핵심 인프라로 네트워크를 지목하고, 관련 기술과 제품 중심의 대응을 강화한다는 방침이다.
가트너 부사장은 “하이퍼스케일러들은 이미 네트워크 중심으로 AI 인프라를 재설계하고 있으며, 이러한 구조는 기업 환경으로도 확산될 것”이라며 “앞으로는 AI 성능을 논할 때 네트워크를 함께 보지 않으면 전체를 이해하기 어려울 것”이라고 말했다.
정종길 기자
jk2@chosunbiz.com