📱

Get Our Mobile App

Take your business learning on the go!

Download on the App StoreGet it on Google Play

“AI 역사상 가장 충격적인 사건”.. 10년 존버한 AMD의 반격, 드디어 터졌다!!

에스오디 SOD11:30

Transcription

AI 역사상 최초로 엔비디아 제국과 최초의 전면전이 시작됐습니다. 추석에 진짜 깜짝 놀랐어요. 갑자기 AMD 주가가 20% 넘게 올랐다고 알림이 오더라고요. 제가 뭔 일인가 싶어 가지고 퍼플렉시들을 바로 켜 가지고 대체 무슨 일이 일어났냐 물어보니까 오픈 AI가 AMD랑 1기하트 규모의 데이터 센터 AI 가속기를 계약했다고 합니다. 대체 이게 무슨 뜻인지, 그리고 엔비디아 철옹성에 균열이 가기 시작한 건지, 2등 AMD의 반격이 시작되는 건지 지금부터 이 영상 하나로 다 설명해 드리겠습니다.

[음악]

결론부터 말씀드리면 계란을 한 바구니에 담는 것은 위험할 가능성이 높습니다. 예전에 필요해서 AI의 백준화 대표님과의 인터뷰에서 대표님께서도 했던 질문을 다시 한번 더 제가 던져 볼게요. 과연 엔비디아가 AI 시장을 독점하는 게 고객사들이 원하는 그림일까요? 취업이나 취직에서도 1지망, 2지망, 3지망을 적어두고 보험을 깔아두는데 수십조 원, 수백조 원이 움직이는 시장에서 보험을 깔아주지 않는다는 것은 더 이상하잖아요. 올해 초에는 그 보험이 브로드컴이나 마벨 테크놀로지 같은 그런 에이지 기업들이었습니다. 쉽게 말해서 엔비디아는 백화점에서 파는 기성복 정장이에요. 그런데 이 기성복 정장이 너무 비싸다 보니까 차라리 맞춤형 정장이 낫겠다라고 기업들은 생각을 했고, 이 맞춤형 정장을 만들어 주는 곳이 브로드컴이에요. 하지만 맞춤형 정장은 태생적으로 기성복 정장만큼 다양한 고객들을 만족시키기는 어렵습니다. 그리고 뒤에서 늘 기다리고 있었던 엔비디아의 가장 강력한 경쟁자, 동시에 한 번도 빛을 보지 못했던 AMD가 눈을 부릅뜨고서 있었던 거예요. 마침 AMD가 내놓고 있는 MI 300 시리즈가 엔비디아 베스트셀러 가속기인 H100보다 러프하게 거의 1.3배에서 1.5배, 2배 정도의 성능을 보였으니까 고객사들 입장에선 AMD를 고려를 안 할 수가 없겠죠. 엔비디아의 H100이 대형 세단이라면 AMD의 MI300X 같은 신형 AI 가속기는 트럭 수준이거든요. 실제로 성능이 좋아요. 그래서 재작년에 AMD 주가가 단숨에 두 배 폭등했습니다.

이런 의문이 들잖아요. 성능이 그렇게 좋은데 왜 죄다 AMD로 바꾸지 않았을까요? 실제로 오늘 영상은 저희 하이젠버그에서 AI랑 통신 분야를 담당하고 계신 포스텍 출신의 AI 연구자 에루트 님께서 써 주신 원고를 바탕으로 만들어졌는데, 연구자님께선 적어도 한국 내에서 엔비디아가 아니라 AMD의 AI 가속기를 쓰는 팀을 보지는 못했다고 답을 해 주셨습니다. 가격도 저렴한데 대체 이유가 뭘까요? 왜 점유율이 10%도 되지 않는 걸까요? 현재 AMD의 상황을 이해를 하려면 먼저 AI 모델이 GPU의 자원을 어떻게 활용하는지, 그리고 평가 지표들이 정확히 무엇을 의미하는지를 알아야 됩니다. AMD가 2023년 12월에 내놓은 MI300X는 이론상으로는 근육질 괴물이에요. 근데 실제 경기에선 약간 좀 몸집이 작아도 복싱이 잘하는 선수가 이길 수도 있잖아요. 중요한 것은 실성능이에요. AI 성능에 큰 영향을 주는 일반 행렬 곱셈 성능에 대해서 벤치마크를 직접 설계해서 실험을 해 보면 하드웨어 전체 설계랑 메모리 책에, 컴파일러 최적화가 결합된 복합적인 성능 지표를 알 수 있는데요. 물론 딱 하나의 테스트만으로 결과를 내리는 것은 일반화의 오류예요. 그래서 AMD의 수석 엔지니어를 직접 초대해서 최적화된 코드로 테스트해 본 결과, 스펙상으로론 F1 자동차 속도가 400km/h처럼 보였는데 실제 주행에선 시속 250km/h도 내기 어려웠던 거예요. AMD의 포텐셜을 극도로 끌어올리면 시속 400km/h도 낼 수 있겠지만, AMD의 내부 전문가조차도 자사의 GPU 포텐셜을 끝까지 끌어내지는 못했다는 뜻입니다.

그러면 이유가 뭘까요? AMD가 성능은 분명 최대치가 400은 나올 텐데 250이 나오는 이유가 뭘까요? 가장 큰 원인은 AMD 소프트웨어인 라데온 오픈 컴퓨터 로드맵에 있습니다. 쿠다랑 비슷한 역할을 하는 소프트웨어인데, 엔비디아의 쿠다가 15년 넘게 안정성과 편의성을 쌓아올린 고속도로라면 AMD 로드맵은 아직도 곳곳에 구덩이가 파여져 있는 비포장 도로에 가깝습니다. 왜 비포장 도로냐면요. MI300X의 제대로 된 성능을 측정하기 위해서는요. 무려 다섯 달 정도 AMD 엔지니어들과 함께 버그를 잡아야 되거든요. AMD GPU를 돌리려면 코드를 60줄을 입력을 해야 되고 거의 5시간이 걸립니다. 반면 엔비디아는 단 한 줄이면 끝나요. 둘 다 도착지는 같지만 하나는 비포장 도로, 하나는 고속도로인 거예요. 회사에 구매 담당자라면 어느 쪽을 선택할 것 같으신가요? 한번 여러분의 연봉을 생각해 보자고요. 다섯 시간은 엔지니어 한 명의 하루 일당을 허공에 날리는 것과 같습니다. 수천 명의 개발자를 보유한 기업이라면 AMD를 선택하는 순간 수십, 수백억에 보이지 않는 비용이 발생할 수도 있는 거예요. 저희가 이제 조사한 몇 가지 더 이슈들이 있긴 하지만 본문의 내용을 너무 뛰어넘는 어려운 내용들이기 때문에 더 자세한 내용은 고정 댓글로 참고 부탁드리고요. 중요한 점은 이 모든 것을 뛰어넘고 오픈 AI가 AMD랑 결국 계약을 맺었고, 2025년 10월 6일 기준으로 하루 만에 주가가 거의 25에서 30% 올랐다는 사실이겠죠. 이런 단기적인 급등의 차익 실현을 위해서 조정이 좀 있을 수 있어요. 하지만 장기적으로는 AMD의 호재임을 반박할 수가 없습니다.

근데 좀 이상하지 않습니까? 타이밍을 보면요. 샘 알트먼은 진짜 뼈 속까지 사업가라는 게 느껴져요. 이 발표가 나오기 불과 2주 전에 엔비디아는 오픈 AI랑 10GW의 데이터 센터를 구축하겠다면서 1천억 달러를 투자하겠다고 밝혔거든요. 그런데 2주 만에 AMD랑 협업을 발표했다. 이건 오픈 AI가 단일 벤더 리스크를 현실적으로 인지하고 있고, 이거를 벗어나려는 의지를 전 세계적으로 표명했음을 보여주는 게 아닐까라는 생각을 했습니다. 비유를 하자면요. 엔비디아가 지금 건설한 AI 전용 고속도로인 쿠다를 타야만 지금 AI가 잘 돌아갈 수 있는데, 문제는 이거 톨비가 너무 비싼 거예요. 그런데 AMD를 쓰자니 AMD 수석 엔지니어가 와서 코드를 짜서 뭐 최적화를 하더라도 성능이 안 나오니까 울며 겨자 먹기로 쿠다의 톨게이트를 썼어요. 그럼에도 불구하고 오픈 AI가 AMD에 베팅한 것은 AMD 톨게이트가 오픈 소스이기 때문이에요. 쿠다는 폐쇄형이에요. 이게 중요한 이유가 뭐냐면 오픈 AI의 개발자들이 AMD의 내부 설계도를 막 뜯어 가지고 볼 수 있다는 뜻이거든요. 버그가 있잖아요. 그러면 직접 잡고 GPT 5에 필요한 기능들을 직접 추가할 수 있습니다. 본인들이 직접 도로 건설에 참여해서 최적화된 차선을 깔 수 있는 거예요. 이건 단순한 반격이 아니라 AI 역사상 처음으로 엔비디아 이외의 길이 열렸다는 뜻입니다. AMD는 지금 인류가 달리는 AI 고속도로의 새로운 톨게이트를 하나 만든 거예요.

그리고 AMD가 쿠다의 사슬을 끊어 버리기 위해서 만든 핵심 기술 중에 하나가 HIP라는 건데요. 쉽게 생각해서 번역기예요. 한 번만 딱 짜면 약간의 수정만으로 엔비디아랑 AMD 양쪽에서 코드가 돌아갑니다. 예를 들어서 뭐 엔비디아의 도로가 너무 막히거나 통행료가 너무 비싸지면 언제든지 AMD의 도로로 갈아탈 수 있도록 보험을 쫙 깔아둔 거예요. 오픈 AI라는 선발대가 시작을 딱 했으니까 앞으로 후발 주자들도 줄줄이 비슷한 선택을 하게 되겠죠. 제가 이제 가장 앞에서 필요사 대표님과 인터뷰 얘기를 말씀드렸었는데, 그때도 이제 대표님께선 쿠다가 필수라는 건 좀 지나치게 과장된 이야기라고 말씀을 해 주신 적이 있습니다.

>> 그게 쿠다의 디펜던시가 사실 개념상 있지는 않죠.

>> 근데 어 그 막연한 생각인 거죠. 아 쿠다가 되게 디펜던시가 있지 않을까. 한번 생각해보면 개념적으로 전혀 있지 않고 디펜던시를 충분히 없앨 수 있고. 근데 그게 어렵다 쉽다라는 건 아닌데 그거는 이제 회사가 해야 될 챌린지인 거고. 쿠다가 사실상 표준인 것도 맞고, 이걸 대체하는 게 어려운 것도 맞고, 연구자들이 쓰기 너무 좋은 것도 맞습니다. 왜냐면 큰 그림을 짜주면 나머지 일은 쿠다가 알아서 해주거든요.

하지만 역사를 돌이켜 보면 대체가 존재하지 않은 기업은 존재한 적이 없습니다. 이런 좀 1년의 사건들에도 불구하고 저는 여전히 엔비디아가 최고의 선택이자 최강의 기업이라고 생각합니다. AMD도 좋은 기업이지만, 일단 엔비디아의 영업 이익이 너무나 압도적이고 이미 빅테크 데이터 센터에 다 깔려 있는 엔비디아의 AI 가속기를 쉽게 교체하는 것은 우리가 그래픽 카드를 새로 사는 것과 차원이 다른 일이에요. 스타트업들 입장에서도 쉽지가 않습니다. 계속 쓰고 있던 엔비디아가 아니라 AMD로 바꾸는 것은 겁이 난다는 진짜 심리적인 장벽이 존재해요. 이렇면 저희는 지금 영상을 프리미어로 편집을 하고 있거든요. 근데 갑자기 내일부터 파이널스로 하라고 해버리면 편집자 입장에선 얼마나 두렵겠습니까? 마찬가지예요. AMD는 성능을 뛰어넘어서 사람들의 심리적인 장벽을 뛰어넘을 만한 그런 유인책을 제공해야 되는 큰 숙제를 안고 있는 겁니다. 이거 별거 아니라고 생각할 수 있지만, 예를 들어서 우리나라 게임사 펄어비스라고 혹시 아시나요? 2019년에 붉은 사막이라는 게임을 발표를 하면서 2021년쯤에 공개를 한다고 말했으나 2022년, 2023년, 2024년, 2025년 매년 내년엔 내놓겠다고 했지만 계속해서 밀리고 있습니다. 이유가 뭐냐면 유니티나 언리얼 것들이 아니라 자체 게임 엔진을 사용을 하거든요. 자체 엔진을 사용하면 외부 프로그램 사용료를 낼 필요는 없지만 개발자 채용이 어렵고 새로 채용하더라도 적은 기간이 필요합니다. 보이지 않는 비용이 존재하는 겁니다.

그럼 앞으로 AMD랑 엔비디아는 어떻게 될 것인가? 엔비디아는 앞으로도 저는 경고하다고 생각해요. 물론 성장세는 다소 완만해지겠죠. 하지만 내년에 루빈을 발표하면서 다시 한번 더 멀리 달릴 것이고, 이전 영상에서도 소개해 드렸고 아직 대부분의 사람들이 모르고 있는 6G AI 레인 시장에 오게 되면요. 성장 여력이 더 있습니다. 더 자세한 것은 지금 위에 카드 클릭해 주시면 되고요. 생태계가 더욱더 경고해질 것은 진짜 불 보듯 뻔한 일입니다. 무엇보다 지금 엔비디아의 직원들의 보상 수준이 AMD보다 높습니다. 과장급 직원들의 자산이 800억 원이 넘고요. 연봉 100만 달러 이상이 제법 흔해졌다고 하니까요. 그러나 수많은 기업 고객들이 AMD 생태계에 참여하며 AMD의 오류들이 빠르게 해결되고 최적화가 진행이 된다면 어느 순간 그 격차는 의미가 없는 수준으로 좁혀질 수도 있을 겁니다. 과거 CPU 시장에서 인텔의 아성을 AMD의 라이젠이 무너뜨렸던 것처럼 AI 가속기 시장에서 AMD가 엔비디아를 위협하는 것이 마냥 허황된 것은 아니라는 거죠. 향후 몇 년간 가장 변동성이 큰 빅테크 중 하나가 AMD가 되지 않을까 조심스럽게 생각해 봅니다. 다만 이 전쟁 속에서 누가 승리하든 돈을 버는 기업은 TSMC, 삼성전자, SK하이닉스 이런 기업들이 되겠죠. TSMC가 만들어 줄 거고 거기에 삼성전자랑 하이닉스의 HBM이 들어갈 테니까요. 특히 AMD의 차세대 AI 가속기인 MI350에는 삼성전자 HBM이 탑재되어져 있습니다. 그리고 AMD AI 가속기를 탑재한 서버 라인업을 판매하고 있는 슈퍼 마이크로 같은 곳들도 반사 이익을 보지 않을까요? 원래 팔던 서버 라인업을 다각화할 수 있고 수요가 늘어나게 될 테니까요. 뭐 누가 승자가 되든 팩트는 한국에게 유리하다는 것. 그리고 엔비디아라는 가장 어려운 문제를 향해 달려가는 AMD의 그 도전 자체가 역설적이게도 AI 생태계를 더 건강하게 만들고 우리 모두에게 새로운 기회를 열어주고 있습니다. 리사 수 는 말했습니다. 가장 어려운 문제를 향해 달려가라.