[딜사이트 김민기 기자] "엔비디아의 AI 가속기는 너무 비싸고 소비전략을 많이 사용한다. 주문 후 납품 받기까지 36~52주나 걸린다. 인텔의 AI 가속기인 가우디는 바로 사용할 수 있고 가성비(가격 대비 성능 비율)도 좋은 데 소비전력도 낮아 새로운 대안이 될 것이다." (인텔 관계자)

미국 반도체 기업인 인텔이 엔비디아가 장악 중인 AI(인공지능) 반도체 시장에 본격적으로 진출한다. 그동안 엔비디아의 AI 가속기의 가격이 천정부지로 치솟고, 리드타임(주문 대기기간)이 길어 자금력이 부족하거나 주문을 빨리 하지 않은 기업들은 사용하기가 힘들었다.

하지만 인텔이 좀 더 저렴하고 소비전력량도 줄였지만 성능은 엔비디아 H100 대비 떨어지지 않는 제품을 내놓으면서 AI 독점 시장이 조금씩 깨질 것으로 예상된다. 국내에서도 인텔은 네이버와 협력을 맺고 공동 연구와 거대언어모델(LLM) 학습 인프라 구축도 추진하기로 하면서 AI 시장이 확대될 것으로 기대된다. 

인텔은 11일 오전 9시 여의도 전경련타워에서 '인텔 비전(Intel Vision) 미디어 간담회'를 열고 AI 가속기 인텔 가우디3(Intel Gaudi 3)를 소개했다. 인텔은 '가우디3'가 AI 반도체 시장을 독점하고 있는 엔비디아의 GPU(그래픽처리장치)를 대체할 것이라고 기대했다.

가우디3는 기존 모델 대비 BF16용 AI 컴퓨팅에서 4배, 메모리 대역폭 1.5배, 대규모 시스템 확장을 위한 네트워킹 대역폭을 2배 향상시킨 것이 특징이다. 올해 3분기 출시 예정이고, 현재 가우디2가 시장에 나와있다. 가우디3는 엔비디아 H100 대비 학습 시간을 50% 단축할 수 있고, 추론 처리량도 50% 빠르다. 전력 효율도 40% 향상됐다. 대규모언어모델(LLM) 훈련에서는 H100 대비 최대 1.7배 빠르고 추론에 사용되는 엔비디아의 H200보다 최대 1.3배 빠르다는 설명이다. 

무엇보다 가우디3의 경쟁력은 가격이다. 현재 엔비디아 H100은 수급난으로 웃돈이 붙어, 제품 한 개당 최대 4만달러(5500만원)에 거래되고 있다. 인텔은 정확한 가격은 공개하지 않았지만 가우디3가 엔비디아의 최신 칩인 블랙웰 GPU과 비교했을 때 매우 가격 경쟁력이 있을 것으로 보고 있다. 가우디3는 5나노미터(nm) 공정을 기반으로 제조해 인텔이 외부 파운드리(반도체 위탁생산)를 통해 칩을 제조하고 있다.

가우디의 또 다른 강점은 오픈소스다. 기존 엔비디아 제품은 엔비디아가 개발한 AI 애플리케이션 지원 소프트웨어 플랫폼인 쿠다(CUDA)를 이용해야만 했다. 쿠다는 사용하기가 어려운 플랫폼이다보니 전세계에 쿠다를 이용할 수 있는 사람이 많지 않았다. 하지만 인텔은 레드햇·허깅페이스·VM웨어 등과 협력해 기업용 오픈 플랫폼을 만들 계획이다. 가우디3는 올해 2분기부터 델 테크놀로지스 등 서버컴퓨터 OEM을 통해 공급된다.

이날 행사에는 네이버도 나섰다. 양사는 △공동 연구와 가우디 생태계 확장 △가우디2 테스트 △상업용 클라우드 인스터스 제공 등을 놓고 협력하기로 했다. 특히 양사는 AI 공동연구센터(NICL·NAVER Cloud·Intel·Co-Lab) 설립을 통해 국내 스타트업·대학과 공동 연구를 진행키로 했다.

우선 네이버는 가우디2를 통한 하이퍼클로바X 테스트에 집중한다. 좋은 결과가 나온다면 가우디 기반의 AI 생태계를 본격 구축할 계획이다. 이동수 네이버클라우드 하이퍼스케일AI 담당 이사는 "테스트에서 좋은 결과가 나오면 가우디3까지도 가능할 것"이라면서도 "가우디2로도 AI 서비스에는 문제가 없기 때문에 일단은 안정적인 칩을 사용하겠다"고 말했다.

인텔이 H100의 성능에 비견되는 새 칩을 내놓으면서 AI 칩을 둘러싼 경쟁도 뜨거워질 전망이다. 엔비디아는 지난달 H100의 후속 제품으로 새로운 플랫폼 '블랙웰' 기반의 GPU인 B100과 B200를 공개했다. AMD는 지난해 MI300X라는 차세대 데이터센터용 GPU를 출시했으며 주요 고객사로 이미 메타와 마이크로소프트(MS)를 확보했다. 인텔은 퀄컴, 구글 등과 '반엔비디아 전선'을 형성하며 AI 앱 개발을 위한 오픈 소프트웨어 구축에도 나서고 있다.

나승주 인텔코리아 상무는 "가우디3 가속기는 학습 및 추론을 위한 여러 비용 효율적인 클라우드 거대언어모델(LLM) 인프라를 지원해 기업들에게 가격 대비 성능의 이점과 선택권을 제공할 예정"이라며 "경쟁력 있는 가격, 차별화된 개방형 통합 네트워크 온 칩과 업계 표준 이더넷을 사용하고 있는 강력한 제품"이라고 강조했다.