|
|
|
|
|
"결국 AI의 심장은 GPU, 그 이상도 이하도 아니다."
전 세계를 뒤흔든 챗GPT의 등장. 모두가 생성형 AI의 무한한 잠재력에 열광하지만 정작 이 혁명의 거대한 무대를 깔아준 진정한 배후는 따로 있다.
최근 방한한 젠슨 황 CEO가 이재용 삼성전자 회장, 정의선 현대차그룹 회장과 함께한 '치맥 회동'이 세계적인 화제가 될 정도로 그의 실시간 행보는 모두의 관심사다.
초거대 언어모델(LLM)이 수천억 개의 매개변수(파라미터)를 학습하는 과정은 상상을 초월하는 연산 능력을 요구한다. 이는 전통적인 중앙처리장치(CPU)의 처리 방식을 완전히 무력화했다.
이 불가능해 보이던 과업을 현실로 만든 핵심 기술이 GPU(그래픽처리장치)며 이 시장을 절대적인 수준으로 장악한 기업이 바로 엔비디아인 것이다.
◇ 게임 칩의 '대변신', H100이 지배하는 'AI 공장'
GPU는 애초 3차원 게임 그래픽을 빠르게 처리하기 위해 개발됐다.
하지만 그 구조가 수천 개의 연산 코어를 병렬로 동시에 구동하는 데 최적화돼 있다는 점이 AI 혁명과 맞물리면서 기적을 낳았다. 방대한 데이터를 한꺼번에 처리하는 딥러닝 학습에 GPU는 마치 맞춤복처럼 들어맞았다. 오늘날 GPU가 'AI의 새로운 석유'이자 '지식의 정유공장'으로 불리는 이유다.
엔비디아가 자랑하는 최신 GPU 'H100 텐서 코어'는 챗GPT 등 LLM 훈련에 있어 사실상 표준 장비를 넘어선 '필수 인프라'로 자리 잡았다.
시장조사업체 트렌드포스에 따르면 2024년 기준 AI 학습용 고성능 GPU 시장에서 엔비디아의 점유율은 무려 80%를 웃돈다. 오픈AI, 구글, 메타, 아마존 등 글로벌 빅테크 기업들이 천문학적인 자금을 쏟아부으며 엔비디아 GPU를 쓸어 담는 배경이다.
단순히 칩 성능만 뛰어난 것이 아니다.
엔비디아는 'NVLink'라는 초고속 연결 기술로 승부수를 띄웠다. H100은 'NVLink'를 통해 수백, 수천 개의 GPU를 마치 하나의 거대한 슈퍼컴퓨터처럼 묶어낸다. 이는 매개변수가 조(兆) 단위를 넘나드는 LLM을 학습하는 데 필수적인 'AI 데이터센터 스케일 아웃(Scale-out)' 전략의 핵심이다.
칩 하나가 아니라 데이터센터 전체를 AI 시대에 최적화시킨 엔비디아의 치밀함이 돋보이는 대목이다.
◇ 엔비디아 왕국의 절대 반지는…'쿠다' 생태계
엔비디아를 단순한 '하드웨어 회사'가 아닌 'AI 인프라 지배자'로 만든 핵심 무기는 '쿠다(CUDA)'라는 소프트웨어다.
2006년 엔비디아가 선보인 병렬 컴퓨팅 아키텍처인 쿠다는 AI 개발자들이 그래픽 기술을 몰라도 GPU의 강력한 연산력을 쉽게 활용할 수 있는 다리를 놓아줬다. 이로써 AI 연구 생태계는 마치 물이 낮은 곳으로 흐르듯 자연스레 엔비디아의 GPU 생태계 안으로 흡수됐다.
오늘날 쿠다는 15년 이상 축적된 방대한 라이브러리, 프레임워크, 코드 등 AI 개발의 역사가 고스란히 담겨 있다.
다른 경쟁사 칩을 쓰려면 쿠다를 완전히 대체할 새로운 시스템을 처음부터 구축해야 하는데, 이는 시간과 비용 측면에서 매우 어려운 일이다. 쿠다는 엔비디아의 기술적 우위를 넘어 그 어떤 경쟁자도 넘보기 힘든 '시장 종속성'이라는 강력한 진입장벽을 구축한 셈이다.
◇ 젠슨 황의 예언…'AI 공장'과 토털 인프라 기업 진화
엔비디아는 이제 그래픽 카드 회사를 넘어 AI 전용 슈퍼컴퓨터(DGX 시리즈), 데이터센터 시스템, 산업별 AI 플랫폼을 공급하는 토털 인프라 기업으로 진화했다.
특히 최근 젠슨 황 CEO가 제시하는 비전은 한층 더 과감하다.
그는 "데이터는 석유이고 GPU는 정유공장"이라며 'AI 공장' 개념을 강조한다. 나아가 '디지털 트윈'을 통해 GPU 기반으로 실제 공장, 도시, 제품을 가상 공간에 똑같이 구현하고 AI로 시뮬레이션하는 미래를 제시하고 있다.
이는 엔비디아가 제조, 로보틱스, 건축 등 전통 산업의 AI 인프라까지 모두 장악하겠다는 장기 전략을 보여준다.
1993년 작은 그래픽 칩 스타트업으로 출발한 엔비디아가 세계 AI 생태계의 지배자로 우뚝 설 수 있었던 배경에는 2000년대 중반 GPU를 범용 연산 장치로 확장하는 데 과감히 투자한 젠슨 황의 선견지명과 전략적 결단이 자리 잡고 있다.
◇ '엔비디아 패권'에 도전하는 잠재적 경쟁자들
엔비디아의 독점적인 지위는 전 세계 정부와 기업에 '의존도'라는 숙제를 안겼다.
AI 산업이 국가 전략 자원으로 격상되면서 GPU 확보 경쟁은 이제 단순한 비즈니스를 넘어 국가 안보 이슈로까지 번졌다.
물론 엔비디아의 압도적 지위에 도전하는 움직임도 활발하다.
경쟁사 AMD는 MI300 시리즈를 출시하며 엔비디아의 H100에 맞서고 있다. AMD는 상대적인 가격 경쟁력과 오픈소스 체계를 통해 CUDA 생태계의 틈을 벌리려 애쓰고 있다.
더욱 강력한 도전자는 '구매자이자 경쟁자'인 빅테크 기업들이다.
구글, 아마존, 마이크로소프트 등 글로벌 클라우드 공룡들은 천문학적인 비용을 절감하고 성능을 최적화하기 위해 자체 AI 칩 개발을 가속화하고 있다. 이들의 자체 칩 개발은 엔비디아의 장기적인 시장 점유율에 가장 큰 변수가 될 전망이다.
결론적으로 챗GPT의 성공은 챗GPT로 무장한 오픈AI의 성취인 동시에 그 뒤에서 묵묵히 기술적 토대와 인프라를 제공해온 엔비디아의 성취이기도 하다.
젠슨 황과 엔비디아라는 든든한 기반 없이는 지금의 AI 혁명도, 앞으로의 AI 미래도 상상하기 어려운 것이 엄연한 우리의 현실임을 알아야 한다.
president21@yna.co.kr
<연합뉴스>
