H100 뜻

앞으로 몇 십년간은 AI 가 우리 생활의 화두가 될 것은 분명해 보입니다.
그리고 주식 시장을 전망하는 사람들 사이에서는 AI 가 화두가 되면 구글, 마이크로소프트, 오픈AI 등의 회사도 성장하겠지만 GPU 모듈을 만드는 엔비디아가 가장 유망할 것이란 이야기도 많이 하고 있습니다.
여기서는 엔비디아 H100에 대해 간단히 알아보도록 하겠습니다.

1) H100 뜻

H100은 엔비디아가 개발하여 2022년 10월에 출시한 호퍼 아키텍처 기반의 최신 GPU 시스템입니다.
H100은 최대 256개의 모듈을 연결하여 엑사스케일 작업을 가속화하는 기능을 갖추고 있습니다. 
이 모듈은 대형 언어 모델(LLM)과 같은 매개변수가 많은 모델을 처리하는 데 특화된 전용 트랜스포머 엔진을 제공합니다.
기존의 슈퍼컴퓨터는 엔비디아의 암페어 아키텍처 기반 A100 모듈을 사용하고 있으며 A100 모듈의 가격은 대략 1만달러라고 하네요.
최근 환율이 올라서 약 1300만원을 넘는 금액입니다.
AI 열풍을 불러온 오픈AI의 경우 GPT-4 개발에 A100 모듈을 사용했다고 합니다.
당연히 이보다 최신에 만들어진 H100의 경우에는 더욱 비싸다는 것은 쉽게 유추가 될 것입니다.
 

반응형

2) H100 가격

챗GPT가 등장한 이후 생성 AI 기술 경쟁이 치열하게 벌어지고 있어 엔비디아의 슈퍼컴퓨터용 그래픽 처리장치(GPU) 모듈인 H100의 가격이 급등하고 있다고 합니다.
주요 기술 기업들인 마이크로소프트(MS), 구글, 아마존등의 글로벌 IT 대기업 뿐만 아니라 각 나라의 대표 IT 기업들은 뒤쳐지지 않기 위해 생존을 위해 AI에 힘을 쏟을 수 밖에 없기 때문에 그 수요는 정말 높아질 것이고 엔비디아는 시장 지배력을 가진 회사이기 때문에 GPU의 가격 상승은 어느 정도 예견이 되고 있습니다.
이러한 상황에서 H100 가격은 A100의 4배 정도에 이를 것이라고 전망한다고 하네요.
거의 6천만원에 가까운 돈이며 앞으로 수요가 더 늘어나거나 인플레이션이 더 심해지면 그 가격은 더 올라갈 것입니다.
그리고 보통 이러한 거대 AI 모델에는 이러한 GPU가 몇 개 단위가 아니라 만 개 단위로 필요하기 때문에 한 대기업이 물량을 싹쓸이 할 경우 가격은 부르는게 값이 될 수도 있는 상황입니다.
 

반응형

이렇게 엔비디아의 H100에 대해 알아보았는데 지금이라도 엔비디아를 사야하는건가 망설여지는게 사실입니다.
분명이 당분간은 잘 나갈 회사인데 최근 너무 급등했다는 것이 걸리네요.
항상 나중에 생각하면 그 때가 적기였는데라고 생각을 하지만 실천을 못하는 건 제가 일반인이라는 증거도 될 것 같네요.