Transcription
간밤에 빅딜이 있었는데, 엔비디아가 오픈 AI에 1천억 달러 투자를 한다는 소식에 이거 주가가 무려 4%나 급등했습니다. 세부 사항은 다음과 같아요.
GPU를 대략 600억 달러 투자한다고요. 이게 칩으로 치면은 한 400만 장에서 500만 장, 10GW에 정말 유리없는 데이터 센터 규모를 짓겠다. 그리고 400억 달러는 의결권이 없는 지분 투자로 진행한다. 이게 진짜 엄청난 뉴스인게, 현행 스타게이트 프로젝트 이거 지금 몇백조가 들어간다고 하는데 과연 이거 누가 파이낸싱하냐에 대한 왈가 왈부가 많았거든요. 마지막 퍼즐이 엔비디아로 맞춰지는 그림입니다.
그러니까 미국이 정말 작정하고 AI 제국을 세우겠다라는 그런 강력한 포부를 밝힌 건데요. 오늘은 정말 재밌는 얘기들이 많아요. 자, 어그저께 XAI에서 그록 패스트 모델이 공개가 되었습니다. 근데 이게 진짜 말도 안 되는 성능과 가성비를 지니고 있어요. 그리고 오늘 제가 소개시켜 드릴 내용은 정말 깜짝 놀라실 거예요. 지금 데이터 센터 판이 어떻게 돌아가고 있는지, 일론머스크가 H100 100만 장을 받아서 도대체 뭘 만들려고 왔는지 제가 10분대로 정리해 드리겠습니다.
자, 그록 4 패스트. 정말 다양한 특징이 있는데요. 비용 효율성 면에서는 압도적이었어요. 그리고 또 눈여겨 봐야 될게 이제 200만 토큰 컨텍스트 창. 자, 이제 컨텍스트 창이 200만이라는 것은 AI가 기억할 수 있는 크기가 대략 200만 토큰이라는 건데 보시면은 재미난 아이가 100만 토큰, GPT 같은 경우는 20만 토큰밖에 안 돼요. 토큰이 길어져야 좀 긴 작업에 있어서 일관성이 유지가 되기 때문에 복잡한 프로젝트를 할수록 토큰 길이가 늘어나면 늘어날수록 더 이점이 있습니다. 그런데 이제 200만 토큰 컨텍스트 창은 엄청나죠.
얼마나 싸냐 이게 제일 중요할 건데요. 그래프가 가장 정확하게 보여주더라고요. 자, 이게 지금의 그록 4 모델이고 현재 GPT 5 하이가 가장 점수가 높아요. 66.7점, 7.927달러가 되는 반면에 그록 4 같은 경우는 코스트가 무려 이제 18.88달러라는 두 배의 비용을 지불하는데 인텔리전스 지능은 65점밖에 안 됩니다. 이번에 나온 그록 4 패스트 버전이요. 47배가 무려 쌉니다. 훨씬 비용을 줄이면서 지능은 60점대로 거의 90% 실력을 가져갔다. 이 가성비가 어마어마하게 좋아진 거죠.
자, 그록 4 패스트 현재 성능 면에서는 상당히 상위권이에요. 4등이 위치하고 있고 탑 소타 모델들과 큰 차이를 보이지 않고 있습니다. 60점. 지금 재미나 2.5%랑 동일한 점수죠. 60점이면. 그다음 이제 속도는 1등입니다. 그록 패스트가 현재 재미나 2.5 플래시 버전보다도 더 빨라요. 이 엄청 빨리 답변이 나오더라고요. 그 이제 가격 같은 경우도 1등입니다. 0.3달러. 100만 토큰당 0.3달러로 3달러로 다른 경쟁사 모델에 비해 뭐 10분의 1배, 클로드에 비하면 거의 100분의 1배 정도 싼 모델이라고 할 수가 있어요. 그러니까 성능은 탑 모델에 비해 90%를 유지하면서 가격과 속도가 1등인 모델, 현존 최고의 가성비 모델이 바로 그록 4 패스트라고 생각하시면 될 거 같아요.
자, 그러면 어떻게 이런 일들을 해낼 수 있었는가? 자, 일단 컴퓨팅 성능이 다른 곳 대비해서 거의 100배가 넘습니다. 보시면 XAI의 콜로서스 2는 2만 엑사플롭스라는 AI 컴퓨팅 성능을 자랑하고 있어요. 그다음이 이제 메타 AI 클러스트인데 여기는 이제 400플롭스고 그 밑으로 내려가면 이제 뭐 한 200에서 중국의 알리바바나 텐센트는 70, 80 정도의 엑사플롭스 성능을 가지고 있다라고 밝히고 있는데 솔직하게 말해서 이거는 약간의 과장이 좀 섞인 말이에요. 왜냐면 아직까지 콜로서스 2 데이터 센터를 짓지를 못했기 때문이죠.
이 이 분야에서 가장 유명한 리서치인 세미 애날러시스의 리포트를 제가 좀 인용을 하겠습니다. 지금 보시는게 이제 AI 훈련용 데이터 센터 용량을 말하고 있는 거예요. 지금 수치상으로 확인된 건 오픈 AI가 1등입니다. 그다음이 XAI고 그다음이 메타, 앤트로픽 순으로 이렇게 메트릭의 용량이 나오고 있는데 일단 오픈 AI가 1등이죠.
제가 이제 데이터 센터 얘기를 좀 드릴 텐데 저는 지금 AI 성능이 곧 데이터 센터랑 아주 직결된다고 믿는 사람이거든요. 그리고 지금 주가 오르는 거 보면 전부 다 데이터 센터 AI 관련 주식들이 전부 올라가고 있어요. 예를 들면 칩을 만드는 엔비디아와 브로드컴, 그리고 거기 메모리 공급하는 SK 하이닉스도 있고요. 이제 이걸 바탕으로 서버를 만드는 델, 슈퍼 마이크로, 거기다가 이제 네트워킹해 주는 마벨, 시스코 같은 회사, 그리고 이거 받아서 조립하는 데이터 센터들 있죠? 우리가 흔히 말하는 클라우드 3대장에다가 요새 떠오르는 오라클, 코위브와 같은 네오 클라우드, 거기다가 이제 XAI나 오픈 AI도 들어가겠죠. 그리고 여기에 또 들어가는 전사 장비들이 있습니다. 쿨링 시스템 버티브 홀딩스 같은 회사들. 그리고 데이터 센터 장비주라고는 녀석들도 있는데 슈나이더나 지멘스, ABB, 모낙타, 대업들이고 그다음 이제 가장 중요한 것도 에너지잖아요. 최근에 화제가 됐던 뭐 뉴스케일 파워부터 배터리 만드는 장치를 만드는 테슬라나 기타 지베르노바 같은 진짜 유망한 회사들이 지금요. 제가 보여주는 이 장표, 이거 말고도 제가 장표를 한 다섯 장 정도 더 갖고 있는데 여기 들어간 회사 아무거나 집어서 지금 검색해 보잖아요. 주가가 막 작게는 50%에서 많게는 10배, 20배까지 올랐다니깐요. 비상장 주식들도 많긴 한데 상장된 주식만 그냥 여기서 아무거나 한두 개만 골랐어도 두 배, 세 배 수익은 정말 껌이었다. 진짜 어마어마하게 많이 올랐다.
아, 그럼 왜 이렇게 주가가 많이 오르는가? 그만큼 수요가 많기 때문에. 지금 미국 GDP의 상승분 중 이제 투자 부분, 그중에서도 AI 투자 있죠? 이 이 실제로 AI 투자가 없었으면 미국 GDP는 뭐 마이너스가 아닌가 할 정도로 AI 투자가 많은 상황이거든요. 그래서 제가 잠깐 이제 데이터 센터랑 AI 인프라 관련해서 트렌드를 잠깐만 간단하게 짚어 드리겠습니다.
자, 다시 일론머스크 XAI 얘기로 돌아오겠습니다. 현재 테네시주에 있는 콜로서스 1 같은 경우는 완공을 했어요. 지금까지 밝혀진 것으로는 이제 H100 여기다가 200도 좀 추가가 있다고 하는데 대략 20만 장에 GB 203만 장에서 한 23만 장 정도가 돌아가고 있고 규모 같은 경우 이제 300MW, 하드웨어 비용 같은 경우는 대략 한 7 빌리언 달러, 하나로 한 10조 정도가 들었다고 합니다.
자, 이 콜로서스 1을 만들 때 아주 재밌는 이야기가 있어요. 이게 전 세계 있는 데이터 센터 중에 가장 크거든요. 이게 머스크의 행동력이 진짜 말도 안 되는게 한 1년 정도 걸린다고 했어요. 이 이 엔비디아 측에서선 1년 정도 걸릴 거라고 했는데 121일 만에 시설이랑 슈퍼 컴퓨터를 완성하고 첫 렉 바니프에 19일 만에 학습을 시작했다고 합니다. 그래서 지금 현존 최고의 데이터 센터를 갖췄고 현존 최고의 AI를 만들게 된 거죠.
자, 그록 4 패스트 같은 경우는 아까 제가 소개를 드렸어요. 이거 가성비가 그냥 역대 최고다. 그리고 그록 코드 패스트 1. 자, 요것도 진짜 요물이에요. 지금 보시는 건 이제 외부 API 업체인 오픈 라우터라는 회사에서 어떤 AI 모델이 가장 인기가 많냐라고 봤을 때 지금 1등을 그록 코드 패스트 모델이 차지를 했어요. 이거 나온지 며칠 안 됐거든요. 원래 코딩하면은 클로드고 소네 포다 이게 국룰이었는데 지금 이제 그록이 이 자리를 차지해 버렸단 말이죠. 야, 이거는 이렇게 되면 이제 코딩에서도 앤트로픽이 그록한테 자리를 내주는게 아닌가 그렇게 생각이 들 정도로 그록이 정말 빠르게 성장하고 있어요. 무서운 건 그 성장의 기울기, 속도인 거 같아요.
잠깐 얘기가 좀 셌는데 다시 콜로서스 데이터 센터 얘기로 돌아오겠습니다. 현재 콜로서스 1은 완공이 돼서 잘 돌아가고 있고 지금 콜로서스 2가 착공을 했습니다. 일단 규모가 전작 대비 엄청 커졌습니다. 엔비디아의 새로운 아키텍처 있는 블랙웰 H200, 이게 55만 장 들어가고 그다음 확장 계획으로는 GB 300을 45만 장을 채워서 대략 100만 장을 만든다고 해요. 지금 제가 알기로는 이제 좀 첫보에 따르면 GB 221만 장을 구매를 했고 요거를 지금 배치 중에 있다라는 것까지는 제가 들었습니다. 그러면은 이번에는 이 데이터 센터를 한번 해부를 해 보도록 하겠습니다.
현재 지금 보시는게 콜로서스 2예요. 그 콜로서스 1 멤피스에 있던 데이터 센터 근처에 있거든요. 뭐 이렇게 보시면 안 느껴지실 텐데 사이즈가 일단 엄청나게 큽니다. 그리고 오른쪽에 무려 129개 냉각기가 달려 있는데 여기서 좀 이상한 점이 있어. 원래라면 데이터 센터 옆에 뭐가 있어야 되냐면요. 변전소나 터빈이 있어야 되거든요. 근데 이거 여기 둘 다 안 보인단 말이죠. 그렇게 된 데는 다 이유가 있습니다. 멤피스에서 뭐라고 있냐면 야 너희 여기다가 터빈 설치하지 마. 우리 환경 파괴되니까 이제 그만해라는 주정부의 반발이 있었거든요. 그래서 이 머스크가 어떻게 했냐면요. 지금 보시는 데이터 센터가 있는 맨피스 여기서요. 수m만 가면 미시시피주입니다. 그러면 미시시피주에서 전력을 당겨오면 되겠다라는 그런 묘책을 발굴해 낸 겁니다.
지금 보면 사우스 에이븐의 듀크 에너지 발전소를 인수해 가지고 여기 12개월 동안 일단 임시로 사용 허가를 받아서 여기서 전력을 들고 오고 있단 말이에요. 그니까 맨피스에서 안 된다고 하니까 미시시피에서 가스터빈을 돌린다 이 말이죠. 야, 진짜 기가 막힌 발상입니다. 여기서 근데 먼 거리를 가야 되니까 또 뭐가 부족하냐면 또 전압이 부족할 수 있잖아요. 그래서 여기다가 이제 중전력 변전소를 설치하고 그 위에 있는게 또 대박인게 이게 테슬라니까 이 정도 했을 것 같아요. 여기다가 S 메가팩을 잔뜩 설치해 놨어요. 전력을 수송하고 관리하데 있어서 최적화된 환경을 만든 거죠. 이 이 메가팩이 없었더라면 이 피크 전력이나 유후 전력들이 관리가 안 됐을 거예요. 그런데 메가팩으로 이제 데이터 센터가 잘 돌아갈 수 있게 좀 어려운 말로 전력 그리드를 안정화시킨다고 하는데 이거를 그냥 자체적으로 수직 계열화해서 끝내 버린 어 정말 말도 안 되는 케이스가 된 겁니다. 그리고 이거 말고도 솔라리스 에너지라는 회사와 협업을 해서 현재 400MW까지 확장을 한 상태입니다만은 아직도 한 1GW가 되려면은 조금 더 이 전력을 끌어와야 될 수요는 있습니다.
그래서 여기서부터는 제 생각이 좀 들어가는데 아마 올해가 끝날 때쯤이면 이제 GB 255만 장은 어느 정도 확보가 될 거 같아요. 거기다가 이제 전력망도 한 1GW가 확충이 된다면 내년쯤이면 이 콜로서스 2, 그러니까 기존의 콜로서스 1으로도 사실 최고의 AI를 만들었는데 지금 콜로소스 1보다 콜로서스 2가 한 못 해도 다섯 배, 뭐 많게는 10배에서 20배까지도 트레이닝 워크로드 레벨의 차이가 날 거란 말이죠. 그러니까 앞으로 얼마나 더 대단한 AI가 나오겠냐 하는게 제 생각입니다. 어머스크도를 잘 알고 있기 때문에 여기다가 올인을 하고 있는 상황이에요. 현재 XAI 콜로서스 2에다가 16조원을 조달을 하고 있습니다. 제가 봤을 때 요것도 이제 쥐담대라고 하죠. 주담대 주택 담보 대출이 아니라 GPU를 담보로 받은 GPU 담보 대출일 거예요. 그리고 또 이제 그록의 지적 재산권과 캐시플로우를 또 담보로 잡아서 아마 구조화 금융을 하지 않았을까? 여기다가 뭐 이제 ETF나 우선주도 들어갔을 수도 있고요. 뭐 아마 엄청나게 많은 자본을 조달했고 앞으로도 더 조달해야 될 겁니다.
현재 콜로서스 2 내부 사진도 공개가 되었는데 선정리가 진짜 기가 막히죠. 요 선이 아마 엔비디아 렉에 들어가는 네트워킹 전선인 이게 인피니밴드랑 MV 스위치들이 이게 복잡하게 물려 있는 모습인데 자 첫 번째 사진을 확대해서 보시면요. 지금 2층까지 전선이 쌓여 있잖아요. 근데 몇 층까지 있습니까? 한 6층, 7층 돼 보인단 말이에요. 그러니까 데이터 센터를 수직 증축을 하겠다는 거예요. 사실 이런 방법이 제가 알기로 전례가 없는 방식이에요. 이게 보시면은 높이가 40피트 이렇게 높은 데이터 센터는 없었거든요. 대략 12m 정도 나오는데 아마 데이터 센터를 하나 두는게 아니라 하나를 위에다가 쌓는 개념으로 생각한 거 같아요. 그러니까 일론머스크가 원하는 100만 장 단위에 2기가W 진짜 유래가 없는 데이터 센터 규모인데 이걸 수직 증축으로 스케일 아웃 하겠다는 그의 발상이 저는 너무나 이거 좀 혁신적인 아이디어라고 생각을 합니다.
결국 어떻게 보면은 이 AI로 전부 다 엮여 있어요. 머스크 제국은 이 AI, 데이터 센터 없이는 별개 떨어진 기업일 수밖에 없거든요. 그런데 이 AI가 이 모든 것들을 하나로 엮어 주는 거죠. 아직까지 뭐 유의미한 이익을 얻지 못한다라는 비판도 있을 수 있지만 이게 완성됐을 때 머스크의 제국은 그 어떤 기업과도 비교 불가능할 정도로 사이즈가 크다라고 생각하시면 될 거거든요. 물론 이러지는데 시간이 많이 걸리겠죠. 그래도 정말 멀리 봤을 때 일론머스크가 못 할 것 같냐라고 물어보면 저는 할 거 같아요. 왜냐면 제가 예전에 일론머스크가 17년 전 2007년도에 인터뷰한 영상을 올렸었는데 이때 스페이스 X랑 테슬라 얘기를 엄청 많이 했거든요. 앞으로 자율주행 될 거다. 시대가 변할 거다 했는데 지금 17년 후에 다 일어냈거든요. 나중에 꼭 제가 고정 댓글에 링크 달아 드릴테니까 영상 꼭 봐 보세요.
AI만 하면 거 같아서 오픈 AI가 주축이 되고 오라클이 데이터 센터 운영을 하면서 미국이 파이낸싱한 스타게이트 프로젝트에 대해서 잠깐만 짚어 드리겠습니다. 요것도 지금 전 세계에 어마어마하게 짓고 있거든요. 일단 얘네의 최종 목표는 무려 5GW급에 200만 개가 넘는 칩을 탑재한다고 해요. 그런데 이제 페이지 2 보시면은 2028년까지 완성할 게 1.2GW의 40만 개 GB 200. 이거는 아까 말했던 일론머스크의 콜로서스 2 2026년에 완성시킬 건데 이는 2028년까지니까 일단 일론머스크가 조금 더 빠를 수도 있겠다라는 생각이 들어요. 여기 비용 브레이크다운을 해 봤는데 뭐 이것까지 할 필요는 없을 것 같고.
그다음 또 이 메타 AI를 빼놓을 수 없는게요. 데이터 센터도 어마어마하거든요. 지금 메타 같은 경우도 오하이오의 2026년을 계장으로 앞둔 1GW급 아까 봤던 콜로서스 2급의 데이터 센터를 지금 만들고 있다. 그리고 이제 하이페리온이라고 5GW짜리 데이터 센터를 만들겠다. 130만 개 이상 GPU를 넣겠다라고 했는데요. 사이즈가 진짜 맨해튼만하다고 합니다. 이제 스케일이 진짜 어마어마합니다. 근데 진짜 2030년에는 데이터 센터가 진짜 세계 전력을 다 먹는 그런 괴물이 되지 않을까? 그에 비해서 인공지능이 과연 얼마나 많이 발전할 수 있을 것인가? 요것도 기대가 되면서 걱정이 되기도 합니다.
자, 오늘 최대한 제가 고퀄리티 정보들을 가져왔는데 이 AI 트렌드에 뒤쳐지고 싶지 않으신 분들이라면 꼭 구독, 좋아요 눌러 주시고 댓글 달아 주시면 너무 감사하겠습니다. 습니다.