Transcription
세상의 모든 지식, 언더스탠딩.
네. 자, 이번에도 정말 유익한 이야기 해 보겠습니다.
음.
뭐 AI 시대인데 요즘 삼성전자, 뭐 SK 하이닉스 주가가 뭐 난리지 않습니까? 어, 난리 났는데 앞으로 더 좋아질 거다. 왜냐? 이제 메모리의 시대가 왔으니까.
음. 그 얘기는 한 선어달쯤 전에 했으면 오네라는 얘기 들었는데 이제는 이런 얘기 다 알아요. 특히 한국인들은.
메모리에 관한, 반도체에 관한, 인공에 관한 전 세계에서.
그거 들어갔습니까? HBM 말고.
HBM.
HBM 말고 HBF.
HBF.
아, 못 들어봤죠.
앞으로 F가 뜬다고 합니다.
HBF.
그렇습니다.
이제 HBM 시대는 간 거예요.
어쩐지.
어, 그래서 HBF가 뜬다고 해서 이건 또 뭔지.
카이스트 김정호 교수님 모시고.
배우겠습니다. 네.
어서 오십시오.
님, 어서 오십시오.
네. 안녕하십니까.
아, 낮에는 학생들 가르치랴, 저녁에는 어른들 가르치랴. 그래.
아, 진짜 고맙습니다.
네. 오전에 아, 아침 9시에 이제 그 대학원생 생성 인공지능 수업을 하는데 거기는 굉장히 이제 학문적으로 엄밀하잖아요.
오해 좀 하고 이제 기차 타고 와서 이제 3% 언더스탠딩에 나오게 됐는데.
여기는 또 극단적인 부담이 있습니다.
그러니까 재밌고 또 쉽게 설명을 해야 되니까.
예. 아닙니다.
그리고 틈틈이 요즘 김정호 교수님이.
나는 알지, 러닝도 하신답니다.
아, 러닝도 하세요? 아, 살.
AI 러닝이 아니고 러닝 한번 실제로는 거 달리기, 달리기 하신답니다.
그 퇴근하고 저녁 먹고 동네 한 바퀴 뛰고 와서 한화 야구 보고.
어.
바쁘다 바빠.
샤워하고 자고 뭐 좀 일 좀 하다가 그러면 너무 리듬이 좋습니다.
그렇죠? 네. 진짜 한화 야구 좀 잘해라, 정말.
아, 올라간 것만 해도 진짜 우리는 진짜 감사하다.
김정호 교수님이 보신답니다.
야.
자, 오늘은.
HBF를 배웁니다.
HBF. F가 플래시 메모리 이걸 말하는 모양이죠. 어게, 예습해 오다 맞니, 메모리니까 F레시 메모리겠지.
돌려가십니다.
예. 야, 끝.
예. 그래서 최근에 제가 경제 전문가는 아니지만은 어 주식 투, 뭐 투자라든가 주식이 다 AI하고 반도체로 움직이는데.
더 큰 동력이 이제 반도체 쪽 아니겠습니까? 투자가 거기 중심으로. 그래 제가 어떻게 생각하냐면.
캘리포니아 금강, 금강이 개발됐잖아요. 그래서 많은 사람들이 캘리포니아로 가고 이럴 때.
돈 버는 사람은 청바지 파는 사람이 돈 벌었다. 이런 이야기가 있듯이.
그렇죠. AI가 붐이 이렇게 나는데.
돈 버는 거는 반도체고, 반도체 중에는 메모리다. 그 얘기를 오늘 조금 더 해보고.
또 앞으로 산업의 예측, 여러분들 투자, 또 여러분들 지적 호기심을 만족시켜 드리기 위해서 새로운 HBF라는 기술을 소개해 드리겠습니다.
야.
일단 그냥 기본적으로 메모리가 더 유망해지는 이유는 뭡니까?
어, 인공지능이 이제 생성 인공지능이 우리가 질문을 하면, 뭐 질문을 하면 쭉 단어를 쏟아내잖아요.
예. 그 쏟아내는 단어의 속도가.
메모리에 의해서 결정이 된다. 이렇게 이론적으로 또는 실제적으로 그렇습니다.
그니까 그거는 학습하는 거 말고.
학습할 때도 그렇지만 추론할 때 더 그렇습니다. 그러니까 그니까 생성해 낼 때.
생성해 낼 때.
예. 근데 거기다가 이제 그 제 예측은 모델 사이즈가 점점 더 커지고 사용자가 늘어나고 이 시장을 지배하려면 성능이 좋아져야 되는데. 그게 이제 하나는 쏟아내는 속도가 메모리에 의해서 좌우된다. 그다음에 이제 어 데이터를 쏟아내기 위해서 학습을 하거나 다양한 데이터가 필요한데 그 용량이 더 커지는 거죠. 예매가 더 GP보다 더 많은 투자가 이어져야 된다는 게 제 주장이고 실제로 그렇게 진행되고 있는 거 같습니다.
오늘 그걸 배우는 거죠. 이 주제에 대해서.
네. 그래서 다르게 얘기해 보면 안노든 젠슨이 왜 다음 주에 한국, 이번 주인가요? APAC에 오나?
중국 갔을 때는 넥타이 매고 있고, 딴 데서는 잠바 입고 다니는데 요번에 넥타이를 매나? 뭐 이런 게 제가 궁금합니다. 그 넥타이 맨다면 이제 자세가 이 한국에도 거의 한참 만에 오는 거 같아요. 대만, 중국에는 많이 갔었거든요. 그래서 이제 메모리 중요하는 걸 아나.
또 삼성 회장님, 그다음에 SK 회장님 만나면서 이제 좀 겸손해지나? 만약에 그런다면 어 제 오늘 발표가 맞는 거고 젠슨 황도 그거를 이제 알아채기 시작한다 이렇게 생각합니다.
예. 알겠습니다. 하나고.
사실은 메모리가 더 중요한 거다.
어. 예. 야, GPU의 시대인 줄 알았더니 생크림 케이크에서 생크림 같은 게 메모리고 사실 GPU는 안에 들어 있는 그냥 카스테라 같은 거다.
카스테라가.
카스테라가 더 맛있는.
그러니까 더 좋은 생크림 케이크을 만들려면.
생크림을 업그레이드하거나 생크림을 많이 넣어야지.
음. 카스테라 그걸 뭘 뭘 어 이제 더 이상 카스테라 가지고 손대 봐야 좋은 생크림 안 나온다 그런 얘기잖아요. 약간 논란이 있기 때문에 그렇죠.
계속 카스테라 먹다 보면 배부르고 나면 카스테라보다 거기 얹어 뭐 토핑 이런 게 더.
관심이 있고 경쟁력의 차이가 올 수도 있겠죠. 알겠습니다.
같은 얘기 하시잖아요.
네. 들어보겠습니다. 예.
네. 그요 화면을 그러면 보면서 말씀드리겠습니다. 그래서.
어 시청자 여러분께서 제가 3% 언더스탠딩 보면 굉장히 호기심도 많고 양자 역학도 공부하시고 이어서 믿고 여러분들께 이 자료를 설명을 드립니다.
최대한 공학적인 과학적인 사실을 훼손되지 않는 범위에서 설명을 드리는데요. 그래도 여러분들 보기에 아 이런 유튜브 채널에 적합하지 않다고 생각하시면 제가 미리 양해의 말씀을 드리겠습니다.
예. 죄 HBM 다음으로 HBF가 온다. 이러 기자님들은 HBM이란 단어를 언제쯤.
알기 시작하셨나요?
작년쯤 처음 들은 거 같은데 그전에는 그런 게 있는지도 모르겠 저 2010년부터 했으니까 한 15년 됐죠. 네. HBM, F 지금 단어를 들으면 귀 따갑게 듣기 시작하는 게 3년 후에 첫 덕이 나올 거 같고요.
F. 그다음에 10년쯤 지나면.
HBM보다 HBF라는 단어를 더 듣고 삼성전자 주가나 하이닉스의 주가가 이거에 의해서 더 큰 영향을 받을 것이다라는게 오늘 첫 번째 여러분들한테 설명드리는.
예.
네. 자, 이제 왜 메모리가 중요한지 이제 좀 설명을 강의식으로 좀 드리면요.
예. 어, 우리가 그 GPT한테 생성 인공지능한테 이런 프롬프트를 넣습니다.
어, 살바도르 달리라는 초현실 화가의 얼굴을 받는 로보틱 얼굴을 그려 달라 이러면.
어, 뭐 몇 초에 그려 줍니다. 만약에 인간이 이걸 그리려면.
학원에 미술 학원에 한 뭐 3년, 5년 다녀야 되고 그리는 시간도 한 시간 이상 걸리겠죠.
음. 그니까 생산성이 이게 몇 초 만에 그려낸다라는 거는 엄청 생산성이 높아지는 거죠.
그러니까.
어, 우리가 인공지능을 자기가 잘 쓰게 된다는 거는 어 내 손 안에 스피어도 갖고 있고 피카소도 갖고 있고 베토벤도 갖고 있다. 이렇게 되는 거 같아요. 바둑도 이세돌만큼 두고.
그러니까는 생산성에 있어서 경쟁력에 있어서 엄청난 차이를 두는 거죠.
음. 그렇고 기업도 그렇고 개인도 그렇습니다. 그니까 이게 만약에 AI를 도입해서 생산성이 높아지면.
어, 좋은 일로 보면 인간이 좀 고생을 안 해도 되는 거지만 나쁜 일로 보면 노동의 기회가 줄어들고. 최근에 아마 아마존이.
곧 뭐 3만 명인가요?
음. %의 인력을 레이한다는 기사가 있습니다. 그런데 어쨌거나 인간의 생산성이 이메일을 쓰든 다큐먼트 서류를 쓰든 그림을 그리든 어 생산성이 한 100배는 높아지게 된다. 이렇게 말씀을 드립니다.
요 화면 한번 틀어 보겠습니다.
어, 요 화면은 어, 사람이 찍은 게 아니라 인공지능 소라가 생성한 동영상입니다. 밑에 이제 프롬프트를 한 것처럼 뭐 SUV가 흡기를 달리면서 먼지는 날리는 장면을 그려라.
이러면 어, 뭐 이거를 한 1분 만에 그려 현재 시점에서 그려 준다고 치면.
이만한 장면을 찍으려면 작가하고 카메라 감독하고 PD하고 뭐 요새 밑에 같은 데 가서 갔다 오면 한 1천만 원 들겠죠.
음. 이게 책상 앞에서 1분 만에 이렇게 만든다면 상당한 생산성에 차이가 있는 겁니다.
그 해외 국회 촬영을 요즘 안 간다고 그러더라고요.
아, 그런가요? 그러니까 이게 거의 우리가 보기에 실제 영상하고 별 차이가 없어요.
예.
자, 그런데 제가 젠슨 황이라고 생각하면 한 시간짜리 영화를 그냥 간단한 스크립트나 아이디어만 주면 1분 내에 만드는 시대를 꿈꿀 거 같아요.
예. 그래서 엄청난 양의 이제 AI 데이터 센터를 투자하고 그러는 거죠. 지금 천억 단위, 천조 단위인데 곧 경 단위까지 될 것 같습니다.
예. 그래서 제 생각에 미래 어 우리가 이제 유튜브를 통해서 많은 정보를 얻고 또 뭐 그러지 않습니까? 시간도 많이 보고 엔터테인먼트도 하고 그런데 지금의 어 유튜브에 나오는 장면은 대부분 사람이 만든 거죠.
예. 미래는 저는 인공지능으로 될 거다. 이렇게 보면 사람의 지식, 이념, 관념, 종교조차도 다 AI의 지배를 받게 될 거다. 이렇게 봅니다.
음.
그래서 그런데 이제 이렇게 제가 말씀드린 것처럼 영화도 어 뭐 1분 만에 만들어 준다.
또는 동시에 수백만 명, 아니 수억 명이 이걸 사용하고 있다. 우리 동시에 인터넷 사용하는 인구가 억 명은 될 거 같아요. 전 세계로 치면.
예. 그렇듯이 AI를 쓰게 되면 이제 인공지능이 거대화될 수밖에 없습니다.
예. 예. 예.
그 이유 중에 하나가 COT라서 체인 오브 소트라고 단만 하는 게 아니라 우리가 시험 볼 때 객관식 시험이 있고 주관식 시험이 있지 않습니까? 인공지능이 요즘은 주관식 시험 보듯이 설명을 해 줍니다. 전에는 단만 내줬는데 그게 COT고 MOE는 뭐냐면 국어 인공지능, 수학 인공지능, 뭐 물리 인공지능처럼 전문가로 이렇게 분업이 됩니다.
그러면 또 이게 인공지능이 많아지는 거죠.
다음에 락을 과거에는 인공지능이 사전 학습을 합니다. 그래서 GPT가 프리트레이닝 피자가 들어가는데 요즘 그러면 최근의 정보는 모르지 않습니까?
그렇죠? 그러니까 최근의 정보는 물어보면 최근의 인터넷 자료를 보면서 답을 합니다.
그거를 락이라고 합니다.
어, 검색 강화 생성이라고 그래서.
이제는 옆에 자료를 쌓아두고 질문의 종류에 따라서 자료 보면서 그러니까 오픈북 하는 거죠. 클로즈북이 아니라.
다음에 멀티 모델이라는 건 뭐냐면 문서만 쓰는 게 아니라 작곡도 하고 영화도 하고 어, 토탈리 하는 거죠. 다음에 에이전틱 AI라 그래서 이제 우리 비서처럼 하는 게 있고 피지컬 AI라 그래서 로봇의 또 인공지능이 들어가요. 그러면 언제 기회가 들어간 말씀드리겠지만 학습용 데이터가 엄청납니다. 그니까 로봇을 학습하려면 몸이 움직이는 걸 다 보고 따라해야 되는 거거든요. 그걸 다 카메라로 찍고 그걸 학습하려면 그게 또 엄청 자율주행 자동차가 어려운 이유 중에도 하나입니다. 모든 상황에 대해서 다 찍어 가지고 동영상을 학습해야 되니까 이 문서에 비하면 훨씬 더 많은 데이터가 필요한 거죠. 그러네요.
다음에 X라는 게 제가 뭐 보면 이제 어플리케이션 어어 응용 분야가 어디냐 응용 분야가 넓고 합 사용자 수가 느니까 이거는 규모의 싸움이 될 수밖에 없다. 이렇게 되겠습니다. 그래서 지금은 아 A보 BO이라는 문장을 넣어 주고 어 뭐 번역해 봐라 그럼 나는 손이 정도 문장이 아니라 사진을 어 보이라는 애의 사를 만들어 봐라. 그러면 이 정보량이 이미지가 텍스트보다 훨씬 많습니다. 텍스트는 뭐 몇백 바이트 정도인데 이미지는 수백 바이트가 메가바이트가 됩니다.
우리가 화면이 훨씬 정보가 많은 거죠. 네. 지금 생성이 영상으로 넘어가게 되면.
음.
지금보다 또 데이터가 엄청 늘어나는 거죠.
늘어난다.
예. 다음에 이제 카메라를 찍어서 인공지능 학습을 하든 뭐 하든 이미지를 비디오로 넘기는 순간 이미 영상을 갖고 학습하는 순간 훨씬 많은 영상 어 이미지가 정말 데이터가 필요로 하다는 거죠. 그래서 제가 주장하는 스케일링 로가 어 모델 사이즈 변수 인공지능의 변 우리가 그 뭐 변수라고 모델 파라미터라고 합니다. 지금은 뭐 수백 조 단위인데 그게 1천조까지 간다는 거고.
다음에 배치라고 해서 사용자 수도 수억 명이 늘어날 거고 이래야 돈이 벌리니깐요. 다음에 당연히 GPU 숫자, HBM의 숫자, HBM의 밴드위스, HBM 쌓는 숫자. 토탈리용 이게 핵심인데 메모리 용량 전력 소모 원자력 발전소 많이 우고 비용이 많이 들어간다. 그래서 어 최근에 이제 버블론이 AI 버블론도 나오는 게 그 돈을 누가 댈 수 있느냐 이제 그 그런 관점은 있습니다. 그래서.
돈 갖고 약간 장난치는 거 같아요. 밴더 파이낸싱이라고 그래서.
어, NBD가 돈 주고 AI 사업하라 그러고 자기네 거 사라고 이렇게.
투자해 줄게. 내 우리 거 사.
예. 음.
어, 그런 문제는 있을 수 있습니다. 투자이 자금이 어디서 오느냐. 뭐 그건 제가 언제 기회가 되면 말씀드리겠지만 우리가 의료 보험비 내듯이 매달 내게 되면 이 돈의 문제는 해결이 된다. 이렇게 한 달에 30만 원에서 50만 원 자기 직업을 유지하기 위해서 우리가 자동차가 있어야 뭐 배달 사업을 하지 않습니까?
음값이 드는 것처럼 그렇게 만들면 된다 이런데 어쨌거나 수요적인 측면에서는 이렇게 스케일링 로가 계속된다. 이렇게 되겠습니다.
자, 여기 이제 본격적으로 이제 기술적인 얘기가 들어가는데 기자님.
저는 8시지만 집 예.
저는 아까 의자에서 밖에서 미리 잤습니다. 네.
제가 한 학기 대학원 생성 인공지능 수업 내용을요 9페이지요 한 장으로 표현을 했습니다.
아.
자, 우리가 코지 플레잉 프레임스룸 기타 뭐 코지가 불길 속에서 기타 친다 뭐 이런 문장을 넣었다고 치면 오른쪽에처럼 이렇게 가세로 나오죠. 근데 요.
말이나 텍스트 인풋이나 이미지는 인간이 이해하는 언어입니다.
예.
그렇죠. 우리가 귀가 있고 눈이 있으니까.
그렇죠? 근데 지금의 생성 인공지능은 트랜스포머 모델인데 그게 바뀔 거 같지 않아요? GPT에 이런 구조를 갖고 있습니다. 인코더와 디코더 구조를 갖고 있습니다.
그래서 인간의 언어를 인코더로 암호화합니다.
프라이어가 뭐 다르게 보면 암호입니다.
이걸 거친 다음에 다시 암호를 해석해서 이.
그림을 그립니다. 아주 재밌습니다. 그래서 제가 왜 이럴까 생각을 많이 해 보면 이.
프라이라는 암호에서 어떤 새로운 변화를 주면 새로운 그림이 나오더라고요.
예. 그래서 요 암호가 어 컴퓨터만 아는 언어 또는 신의 언어 또는 어 뭐 예를 들면 어 뭐 외계인 언어가 아닐까 이런 생각도 해 봤어요. 그래서 우리가.
블랙박스 같은 거죠. 저.
예. 블랙박스인데 저거를 해석하고 싶으면 꼭 디코더를 달아야 돼요.
예. 근데 이 디코더가 인공지능 망이에요. 뭐 조 단위 변수가 들어. 그래서 어 그래서 어떻 이게 만약에 막 비유를 들면 신의 목소리라면 신의 목소리를 듣기 위해서와 HBM이 그렇게 열심히 일한다. 뭐 이렇게도 되겠습니다.
근데 요 프라이어라는 신의 목소리를 다르게 보면 종교적으로 뭐 성경이 될 수도 있고.
저희 전공 입장에서는 암호 책이에요.
예. 암호 큰 백가사전만한 암호 책이에요.
예. 그거를 번역해내는 사람이 뭐 신학자나 목사님이나 승려가 해서 우리 목소리를 들려주는 게 디코더예요.
음.
그런데 우리가 I am a boy이라고 인풋을 하면 나는 소년입니다 할 때 나는이라는 단어가 하나 쏟아내잖아요. 그러면 다시 나는이란 말 했어요 하고 암호복을 암호책을 읽어 본 다음에 실마이를 차서 나는 소년 소년이란 단어를 쏟아내요.
음. 그이 암호책을 만드는 과정을이 엄청난 계산과 메모리가 필요해요.
그래서 오늘 제가 말씀드리는 거는 HBM은.
음. 빨리빨리 계산하고 쓰고 해야 돼요. 근데 용량이 그렇게 크지가 않아요. 디램을 쌓은 거라 그게 이제 인코더와 디코더에 필요한데.
아무 책은 자주 읽지 않아요. 한번 쓸 때는 이 인코더가 해석해서 한번 쓰고 뭐 성경 한번 쓰면은 뭐 매번 보는 게 아니라 한번 정해졌잖아요. 보는 사람은 매일매일 보잖아요. 주로 읽는데 쓰는 거예요. 그리고 엄청난 용량이 필요해요. 요 프라이어를 해.
앞으로 기억하는 장치가 HBF가 될 거다라는게 이제 처음 도입 부분에서 여러분들께 말씀을 드립니다. 저게 프라이어라고 돼 있는 게 사실상의 인공지능의 마인드가 인공지능이에 저게 다르면 다른 결과가 나.
그렇습니다. 그렇습니다. 학습의 결과가 여기가 여기 들어와 있는 거죠.
AI의 뇌 같은 거잖아요.
예. 그래서 이게 프라이어가 큰 메모리고 되면 똑똑한 거고 다양한 지식이 많은 거고.
요게 작으면.
간단 간단한만 대답만 하는 거고. 그러니까 집에 백가 사전 한 권짜리도 있지만 뭐 전질 뭐 뭐 수백 권짜리가 있고 요즘은 인터넷이 또 그런 역할을 해 주잖아요. 그 용량이 클수록 많은 정보 제가 아까 말씀드린 것처럼 영화도 만들고 그림도 만들려면 텍스트를 만드는 교과서 프라이어가 뭐 아무 책이 있으려면 글자만 있으면 되지만 영화를 만드는 요 책이 있으려면 모든 전 세계 영화를 다 기록해 두는 그런 장치가 있어야 되는 거예요.
음. 아.
그래서 어, 그래서 이 모델이 커지면 커질수록 메모리 압박이 커져요. 그게 인코더, 디코더도 있지만 프라이어가 커질 거라는 게 제 주장이고 그거를 하면서도 빨리빨리 또 제공을 해야 되잖아요. 단어를 빨리 그거를 하는 목적으로 필요한 메모리가 HBF가 될 것이다라고 여 이제 오늘 여러분들께 설명을 드리는 겁니다. 디램 대신 플래시 메모리를 더 많이 쓰 거기니까 디램도 들어가고 다 들어가는데.
추가로 디 랜드 플래시를 쌌는 거죠.
랜드 플래시를 더 많이 쌌잖아.
지금은 어떻게 하고 있어요? 지금은.
지금은.
지금도 기억하는 게 있긴 있을 거 아니에요.
그니까 디램에 기억하는데 디램은 끝나면 잊어버리잖아요. 그 뒷단에 SSD라고 랜드가 또 연결이 돼요. 고속 통신망을 통해서 지금 근데 쌓여 있지 않아서 용량이 크진 않아요.
그래서 최근에 삼성과 하이닉스의 랜드 플래시에 대한 수요가 또 증가해요.
데이터 센터에도 이런 장치가 있어야 되니까. 예.
예. 근데 지금은 거기를 사용해서 GPU까지 끌어오려면 통신망으로 들어와야 되기 때문에 시간이 많이 걸리고 늦는 거예요.
음. 고대역폭이 또 필요한 거예요.
아, 뭔가 지식에 지식 뭔가 이렇게 쌓아 놔야 얘 인공지능이 이걸 활용해서 쓰는데.
바로 옆에 있어야 바로바로 체보가 하는데 도서관까지 걸어갔다 오면 시간 다 걸리죠.
지금은 데이터 센터가 있으면 거기에 그 지식 덩어리가 있는 게 아니라.
네. 어딘가 다른 데 있고.
데이터 센터 뒤차 한 부분에 랜드 플래시의 저마 스토리지 가 있죠.
그럼 거기서 갖다 쓰는 것도 너무 시간 걸린다고 좀 느끼는 거죠.
그렇죠? 그 대역폭이 늦다라고 우리가 얘기하면.
그 서버 한 대 한 대마다 다 그런 게 들어 있어야 되겠다.
조금씩 아니 GPU 바로 옆에.
바로 옆에.
예. 있다만 말.
지금 우리가 엔비디아 GPU 나오면 바로 옆에 HBM이 붙어 있지 않습니까? 네. 똑같이 HBF가 붙어야 된다는 게 제 주장인 거죠.
지금은 HBM이 붙어 있어서 그 역할을 프라이어 역할을.
프라이어까지 하는데 버죠. 용량이 작으니까.
그런데 앞으로 동영상이든 이렇게 많은 데이터를 또 해야 되면 그걸로 이제 안 되고 아.
충분하지 않다.
그럼 HBF는 어디쯤 붙여요? HBM 위에다 또 쌓아요? 아니면.
그럴 수도 있죠. 천재십니다.
음. 아키텍트 점 저희 어 저희하고 아니죠. 그래 갖고 제가 삼성전자 하이닉스 뭐 샌디스크 이런 데 미팅하면 저희 연구실의 역할은 그 아키텍트를 제시하는 겁니다. 디램과 랜드를 할 거냐? 옆에 아파트 타운처럼 오피스텔처럼 여기 뭐 자이 아파트 세우고 무슨 아파트 세운 것처럼 경쟁을 시킬 거냐?
앞뒤 순서를 어디 지하철역 가까운데 누구를 세울 거냐? 상가는 어디 붙일 거냐? 네. 근 아파트의 목적은 가격, 투자, 땅값 또는 뭐 편리함인데 여기서는 이제 생성을 얼마나 많이 하느냐.
동영상 빨리 많은 사람한테 그런 걸 제공을 해서 오픈 AI 되는 기업이 미래 AI 시장을 먼저 이제 장악하고 싶은 사람은.
책지왕 이런 게 많이 있어야 되는데 그걸로 넘치면 아파트 지하에다가 참고를 하나 만들어 놓고 책을 거기다 또 쌓아 놔야 되는데 그것도 모자라면 기자님 제 스타일.
예. 근처 어딘가에.
나만의 도서관다 사무실이나 이거 자꾸 만들어야지 일이 되지.
제가 재미있는 게.
우리 대학교 들어갈 때 몇 년도라고는 시청자 여러분들한테 공개하지 않겠습니다. 제 나이가 드러나니까.
그때는 대학교 배지도 달고 다녔어요.
네. 나오는 학교 다닌다. 그 교복도 있고.
다음에 이제 대학생들이 책 한두 권 이렇게 대학생 같이 예쁘게 보이게 이렇게 노트북하고 책 한 건 들고 다녔어요.
지금 생각해 보면 무슨 공부하느라고 지금. 그리고 이제 제가 대학 대학원 다닐 때는 이제 검은 가방 이렇게 3층 가방 같은 데 책 넣고 다녔는데.
요즘은 다 백팩에 매잖아요. 그 책이 많이 들어가요.
다음에 노트북도 다 넣죠. 그러니까 양이 정보양이 훨씬 많아요. 예. 그 뭐 이거 HBM, HBF도 비슷하게 이렇게 생각이 됩니다.
메모리를 해야 될 게 많.
물론 책만 들고 다니는 게 아니라 가끔 열어 봐야죠. 그게 이제 밴드위스고 뭐 뭐 시트레이트라고.
그런 거예요. 메모리는 가까이 많이 있어야 되는데 그 메모리라고 가는 길이 넓어야 되니까 동시에 여러 개 막 봐야 돼. 근데 이제 GPU 안에 계산하는 학생이 한 만 명쯤 있어요.
CPU는 10명인데 만 명한테 다 동시에 책을 내가 원하는 책 갖다 줘, 내가 원하는 책 갖다 줘, 하는데 동시에 막 갖다 줘야 되는 거예요.
그래서 길이 넓어야 되고 속도도 빨라야 되 메모리도 길이 넓어야.
그리고 가까이 있어야 또 속 시간이 덜 걸리잖아요. 공부 많이 하시는 교수님 방에 가보면 아중에 책이 그냥 해요.
안기자 방에 가면.
채꽂자 하나로 충분하잖아.
어.
예. 근데 요즘은 이제 제가 처음 카이스트 교수로 왔을 때는.
프린트를 많이 했었어요. 그리고 이제 프레젠테이션 할 때 그 OHP 필름이라는 프린트해 갖고 이렇게 했는데.
지금은 그것 다 종이 없어지고. 다음에 어 PDF 파일로 또 책 다 보잖아요.
그렇죠? 그러니까 그 미디어의 그 어 용량 속도라는 측면에서 이렇게 한 것 발전한 것처럼 이제 AI 컴퓨터도 그렇습니다. 근데 오늘은 그중에서 인코더 디코더도 메모리가 또 중요한데요 프라이어라는데 좀 더 집중해서요 암호책.
그 누가 큰 암호책을 갖고 있고 빨리빨리 보느냐 오픈북 시험이라고 하면 거기 다 책이 나와 있을 거 아니에요. 그거를 필요한 메모리가 HBF라고 저도 주장 저가 주장합니다. 그래서 이게 제가 2010년대 HBM 시작할 때 기분하고 비슷한데 강도가 한 세 배 이상 높아요. 그까 지금 그래서 제가 거꾸로 생각해 보면 지금 HBM이 반도체 시장이 차지하는 역할이 상당히 커졌잖아요. 어 HBM은 더 HBF는 더 커질 것 같다. 이런 생각이 들어서 이 3% 언더스탠딩 여러분들께 미리 뭐 경제적인 투자를 하든 공부를 하든 산업에 대한 이해를 이게 실마일를 들어서요 방송이 제가 이런 얘기하는 첫 번째 방송이라 이게 성지가 되게 한번.
예. 그 지금도 근데 메모리는 엄청난 학습량을 하니까 뭔가 많이 기억하고는 있을 거 아니에요. AI가 엄청난 메모리를 쓰고는 있을 텐데.
그렇습니다. 그거 그러니까 이제 랜드 플래시 수요가 계속 지금 옛날에는 어 하드디스크라는 걸로 저장을 많이 했어요. 근데 데이터 센터 다 이제 랜드 플래시로 바뀌는 거죠.
용량도 필요하고 속도도 빨라야 되니까.
음.
그런데 더 그 많기도 많고 더 빨리 접근 가능한.
그렇습니다.
메모리가 있어야 된다고 생각하는 거니까.
네. 예. HBM이 메모리 용량이 조금 모자란 게 아쉽다는 거죠. 그니까 저도 그럼 HBM을 더 많이 하면 되지. 왜 HBF라고 하는 걸로 바니까? 하는.
그 공간적인 땅이 뭐 GPU 옆에 땅이라는 게 또 무한 느낌진 않잖아요. GPU가 5cm 곱하기 5cm라면 1cm 곱하기 1cm짜리 HBM 놔야 네, 여덟 개 정도밖에 못 놓을 거 같아. 예. 펼쳐서.
그래서 또 무한대 땅은 갖고 있지 않기 때문에 HBM만으로는 부족하다 이렇게.
근데 HBF도 또 단점이 있기는 합니다만은.
네. 근데 오늘 밤새도 괜찮으신 거죠 지금.
진기만.
아니요 괜찮습니다. 재밌습니다 이렇게.
근데 지금 기자님들이 여한테 물어보는 내용이 다시 사실 뒤에 가야 되 넘어가겠습니다. 예. 조금 더 배워보고 여쭤보겠습니다.
요런 거 넘어가겠습니다.
그래서 이렇게 결론부터 미리 얘기하면.
GPU가 있으면 지금은 HBM이 옆에 붙어 있어요. 예.
100GB 정도 양쪽 이렇게 있는데 그 바로 뒤에 HBF, HBF가.
같은 16층을 쌓는다고 했을 때 용량이 한 열 배쯤 돼요.
아. 아.
그래서 요 성경의 목소리 아까 암호 해석한 암호북을 여기다 설치한 다음에.
지한테 가르쳐 주거나 HBM에 채워 주는 거예요. 필요할 때마다.
아.
이게 계층적인 구조를 갖습니다. HBM이 저 F에 있는 걸 가져다가 GPU으로 보내 주는 거군요. 그럴 수도 있고 또 직접 보낼 수도 있고 도로망을 그렇게 설치하는데 HBM에 보내는 게 제가 보기엔 1차적인 역할이고 2차적인 역할은 GPU에 보낼 수 있습니다. 이제 이런 기능이 되려면 GPU 프로그래밍이 바뀌어야 되거든요. 그니까 엔비디아나 이런 회사가 협조를 해야 되는 그래서 이런 스펙을 요즘 싹 만들 예정인데 HBF에 다 이제 오픈 AI나 어 엔비디아나 AMD나 어 구글이나 브로드컴이 다 들어와야 됩니다.
예. 근데 그러면 이 명령어 체계가 바뀌면 쿠다 소프트웨어가 바뀌고 뭐 그렇고요. 다음에 이제 HBF의 스토리지 메모리 아까 제가 SSD처럼 엄청난 용량의 이 공장만 한.
운동장만 한 메모리 스토리가 이제 어 이건 통신 광통신이나 이런 걸 통해서 이렇게 공급되는.
메모리 스토리는 비유하자면 대도서관.
음. 요거는 책상 옆에 서재. 서재.
요거는 지하실.
여기.
서울시 도서관. 아, 그렇지. 체계가 있네. 체계가 있어.
예. 그러니까 그러니까 공학 다이 우리가 우리가 일상 생활하고 어 반도체는 우리가 접근하기 어려워서 그렇지 다 우리가 생각하는 건축과 되게 비슷합니다. 자주 보는 책은 매번 대도서관 가지 말고 HBF라고 지하실 서재에 넣어놓 그 얘기군요.
근데 이제 설계 좋 자주 볼 만한 책을 갖다 꽂아 놓는 게 이게 실력이에요. 그게 이제 소프트웨어의 힘이죠.
그러니면 평소 때 어떤 질문이 들어오느냐를 봐 놓고 통계적으로 그걸 또 처리를 해야 되는 거죠. 아주 가끔 쓰는 거는 채피해 좀 늦게 덜 짜증나잖아요. 효율화의 문제군요.
그런 게 다 공학입니다. 그리고 그걸 또 구현하는 게 하드웨어가 이렇게 되면 이제 어 인공지능 프로그램을 짤 때 그걸 이제 인공지능을 잘 딥시크가 잘한다는 건 하드웨어도 잘 알고 인공지능 알고리즘도 잘 알고 이런 데이터 통계도 잘 알아서 그래서 요즘은 다 분야를 농통한 사람이 아 중요한 인재가 돼요. 옛날 옛날에 깊이 만들어 가는데 예 그런 사람이 결국 뭐 연봉을 엄청나게 받고 이런데 어쨌거나 우리가 여러분들이 상상하는 거하고 같습니다. 근데 어쨌거나.
2010년대 시작할 때 GPU 옆에 그래픽 카드에는 여기 뭐 LPDDR이나 전통적인 메모리가 붙었는데 어느 순간 HBM이 붙었잖아요.
이제 한 3년 지나서부터는 갑자기 HBF가 붙는 사진을 복기 시작할 거예요. 어.
그리고 여기에 큰 대도서관하고 연결하는데 광통신이 붙는다 어쩐다 그래갖고 여기 회사에 막 주가가 오르고 막 이런 일이 이제 자꾸 등장하기 시작할 겁니다.
아, 통신. 통신.
통신인데 우리가 PCI 익스프레스라 그러기도 하고 이시라고도 하기도 하고 인피니티 밴드라고 하기도 하는데 엔비디아의 강점 중에 하나가 여기 통신 쪽 회사를 갖고 있어요.
예. 그게 또 이제 브로드컴이 여기에 필요한 반도체 설계를 잘하고 그래서 다 연관관계가 있습니다.
지금 HBM도 다 파면 왜 짠짠 이렇게 나오잖아요. 착 안 나오고 그것도 지금 왔다 갔다 하는 속도 때문에 그렇다면서요. 그래서 그것 때문에 HBM을 쓴 거. 그래서 그 엔비디아가 어떤 장난을 쳤냐면 사람이 생각하고 말하는 것처럼 빨리 나왔던 늦게 나왔다 이런데 사실은 그게 메모리가 안 받쳐져 갖고 그렇게 나오는 건데 연기를 하는 거죠. 아 마치 사람이 말하는 거 같으네. 그럼 저런 세상이 오면 지금은 인공지능 돌리는데 엔비디아.
하이닉스.
삼성.
삼성은 뭐 안 들어가죠.
TSMC.
TSMC. 얘 샘만 모이면 인공지능을 돌릴 수 있는데.
아니 거기 뒤에 이제 데이터 센터 꾸미는 업체.
그 그러니까 이제 뭐 뭐 저 슈퍼 마이크로시스.
오라클이 요즘 그거 하겠다고 투자하고 있죠. 예예. 그런데 플래시 메모리 그 HBF도 붙으면.
그러면 하이닉스가는 HBF도 할 수 있죠. 응.
샌디스크라는 회사가 있어요. 또 이제.
플래시 메모리.
플래시 메모리 말. 거기가 또 낄 수도 있는 거고 하이닉스 대신에 삼성은 독자 생체 체계로 가는 거죠. 뭐 GPU도 팬 앱에서 어 파운더리에서 만들고 HBM, HBF 다 해서 토탈 솔루션을 갈 수 있습니다. 그런데 삼성 그럴 때 누구하고 손잡아야 되냐면 AMD나 브로드컴이나 구글하고 저게 적은 나의 친구.
음. 음. GPU를 대신할.
같은 다 GPU인데 다 가속기인데 이제 뭐 구글에서 TPU라고 부르고 AMD에서는 MI 450인가 이렇게 이름만 다르지 다 행렬 계산 잘하는 그런.
저거는 쌓는 거는 안 어렵습니까? HBF는 그래서 저도 제 판단에 HBM 쌓아본 회사가 유리하다.
싸봤으니까. 그런데 열 문제나 뭐 전력 공급 문제는 저희도 연구해 봐야 돼요. 어느 게 더 분리한지. 그런데.
어, 랜드 플래시는.
아, 오늘 밤 세도 되는 거.
괜찮습니다. 괜찮습니다. 밤이 문제. 그 안에 용량을 높이기 위해서 메모리 셀이 이렇게 또 128층, 256 쌓아 있어요. 내부가 이미 내부.
이미 그래. 그걸 3D 랜드라 그래요. 그걸 열 개 쌓으면 2천층, 3천층이 되는 거예요.
그래서 이미 3차원 랜드 할 때 구멍을 깊이 뚫려 연습을 많이 해요. 그게 쌓고 거기도 반도체 내에서 그래 갖고 얘기 들어보면 뭐 구멍 딸 자기네는 고층 건물 짓는 거는 별로 걱정을 안 하더라고요. 그게 하이닉스든 삼성이든 샌디스크든 예. 그래서.
번뜩 저도 그렇고 그분들도 번뜩 why이 not 어.
근데 이제 이 아까 암호 책 이런 걸 알아야 이제 이 발상이 팍 나오는 거죠. 음. 무릎을 치고 있 거에 그 HBM의 하이닉스 독점 구조 같은 거는 잘 안 나올 가능성이 높다는.
플래시 메모리 할 수 있으면.
HBM도 이제 뭐 점점 그 깨지겠죠 균형. 근데 지금 삼성 하이닉스 합쳐서 90%인데.
랜드는 동일 선상에 지금 시작해요. 그 랜드 전 세계 그래서 우리가 한 33, 33 해서 두 회사가 한 67%만 점유하면 좋겠다. 근데 이제 그 SK 하이닉사 삼성의 장점은.
HBM도 잘하니까.
동시에 잘하는 게 큰 마케팅 포인트가 되지 않을까 이렇게 생각합니다.
음. 음. 아까 제가 말씀드린 것처럼 HBF에서 HBM으로 데이터 들려면.
같은 기판 위에 올라가야 되거든요.
아, 그러면 HBM을 잘하는 회사가 좀 더 유리하겠군요. HBM은 지금 잘하고 있는 회사가 아.
그 그래 뭐 실수 아직 삐끗하지 않고 계속 가고 제가 오늘 이런 방송하는 거 듣고 큰 투자를 해야 되는 제가 2010년 중반에 큰 투자해야 된다고 했을 때.
어 머뭇거린 회사가 있었을 수도 있고 어떤 회사는 끝까지 한 회사 수가 있을 수고 그게 또.
최근의 결과에 좀 차이를 둘 수 있었다고 생각합니다. HBF도 똑같다고. 어, 정답 정답 있어도 또 정답을 믿는 분이 있고 안 믿는 분도 있고 그러니까.
어.
두 분은 어떻게 믿으시나요, 어떠시나요?
아니, 그럴 거 그럴 거 같습니다.
아, 그럼 교수님 말씀 믿겠지.
그래, 그래. 그리고.
저희는 지금.
그래서 하이닉스를 좀 팔아서 샌디스크를 사야 되냐?
아니, 하이닉스를고 있을까?
제가 샌디스크하고 2주 전에 1박 3일 뮤가스 미팅하고 왔습니다.
네.
1박 3일. 아.
너무 좋아요. 비행기에서 가는데 오는데 다 껌하고 인터넷 꺼져 있으니까 공부하고 집중하는데 최고예요. 근데 조금 있으면 먹을 것도 갖다 주죠.
방해하는 사람도 없죠. 너무 좋았습니다. 근데 예.
예. 지금.
샌디스크.
음. 그래서 어. 예. 샌디스크 주가가 최근에 많이 올랐어요.
최근 3개월간 한 세 배 올랐네요.
예. 그것 중에 반의 이유가 데이터 센터의 랜드의 수요가 증가한다는 거예요.
현저 현재 이미.
이미 이미.
반은.
HBF로 안 가더라도.
어, HBF에 대한.
근데 지금 얘기하신 거 보니 그게 혹시 전력 소모에도 관련이 있습니까? 좀 연구해 봐야 되 줄이는 방법과는 관계가 1차적으로 없습니다. 2차적으로는 랜드가 HBF가 전력 소모가 적을지 HBM이 적을지 저도 조금 더 뭐 한 6개월 정도 스터디를 해 봐야 되겠습니다만 1번 이유는 전력은 아닙니다. 속도 속 용량.
용량용 용량 곱하기 속도.
예전에 반도체 상식 배울 때는 디램과 플래시 메모리의 차이는 디램은 휘발성이고 플래시 메모리는 전원이 나가도 여전히 데이터가 있다는 건데 지금은 그 특성 때문에 쓰는 거는 아니죠.
네. 그 특성은 아니고 왜냐면 데이터 센터에 전기는 24시간. 근데 이제 디램은 데이터를 가끔 잃어버리니까 리프레시라는 거를 계속 채워 줘야 되는 그런 건데 지금 그것 때문만은 아니고.
그런데 이제 그 두 개의 약간 특성의 차이가 있어서 쓸 때 잘 써야 되기는 합니다.
음.
아니 그러니까 PC도 생각해 보면 처음엔 디램이 막 중심이었다가 그다음에 랜드 프레시는 메모리가 엄청 중요해지는 쪽으로 갔던 거 같아요.
네네. AI 그렇게 되는 거.
네. 혹시 여러분들 대학 다니실 때 PC 뜨다 보면 빨간 리본 케이블이라고 두꺼운 케이블이 많이 왔다 갔다 하지 않았나? 공간으로 그게 하드디스크와 PC를 연 그거 다 사라졌잖아요. 밴드위스가 안 나와서 그래요. 아 거기서.
그리고 거리가 멀어지니까 다 안으로.
들어갔죠. 이제 가겠습니다. 네. 가겠습니다.
네. 자, 그러면 조금 말씀을 드리면.
이게 아까 그 그림인데 하와요 하면 어 당신은 뭐 어떻게 지내십니까? 이런 답을 하는 게 인공지능인데 인코더로.
암호 입력을 해석해서 암호북을 만든다 그랬잖아요.
그거를 우리가 K캐시, V캐시라고 합니다. 이거는 인공 그 생성 인공지능의 큰 건데요. 암호 암호책이라는 말을 조금 더 구체적으로 하면 K는 단어 간의 관계를 표현하는 내용이고 V는 단어 각자 얼마나 중요하지 뭐 그런 자존감 이런 걸 표현하면 암호북이 따지고 보면 행렬인데요. 그 안이 남하고 상관 얼마나가 되는지 점수 매겨 놓고.
뭐 그것도 국어별로 수학별로 뭐 이렇게 합니다. 그래서 이렇게 K과 K와 V캐시인데 이건 전공 단어고요. 기자님들도 KV캐시 이런 얘기하면.
AI 전공자들도 자세를 이제 바로 잡습니다. 아니 거기까지 기자님이 아 문 아신다고 3% 언더스탠딩 대단하다고 이러실 텐데 그거를 이제.
일반적인 용어로 하면 암호책.
예. 그렇게 되겠습니다.
예. 그래서 이런 책입니다. 아, 이 거대한 메모리가 필요하다. 이 말씀이고요.
어, 그 아까 KV캐시라고 쓴 인코더의 암호 책이.
계속 단어 하나 쏟아낼 때마다 Y1이 I, Y2가 M, 어, 보이 쏟아낼 때마다 이.
암호책을 보면서 그전에 I라는 단어면 다음에 뭐 나와야지 하고 M 쏟아내고 못 쏟아내고 이렇게 됩니다. 그래서 이 암호책을 계속 읽어야 돼요.
우리가 GPT 쓸 때마다 단어 하나 나갈 때마다 그러니까 엄청 읽는 횟수가 많아요. 같은 그러니까 질문은 우리가 어 최치T한테 오늘 날씨가 어떻습니까 하면 암호 생성을 해요. 오늘 날씨.
뭐 다 조사해 갖고 딱 하면 만들면 답을 낼 때 계속 그 책을 보면서 이렇게 한다. 그래서 전통적인 우리 그 인공지능의 학습 변수 있지 않습니까? 그걸 W라 그러는데 이런 것들은 그다음에 입력 질문은 HBF HBM에다가 어 HBM 잘 여기 잘못돼 있습니다. HBFM에다가 >> 기록하고 >> 아 약간 죄송합니다. 여기에 이제 아까 암호북 같은 경우는 HBF에 기록한다. 그래서 소프트웨어를 짤 때 어떤 거는 HBM, 어떤 거는 HBF 이렇게 한다. HBF는 디램과는 달리 여기 랜드 플래시를 이렇게 쭉 쌓는 거다. >> 음. >> 예. 그래서 GPU 옆에 HBF가 이렇게 쌓겠습니다. >> 아하. >> 으흠. >> 발상으로 생각해 보면 디램 쌓듯이 왜 못 쌌냐 이렇게 >> 그런 거네요. 그런 거네. >> 네. 근데 아까 말씀드린 것처럼 랜드 취 내에 128층, 256층이 또 있어요. 그래서 이게 16 * 이렇게 되면 2,층 3천층 >> 그래 1층까지도 갈 것 같습니다. >> 그다음에 아까 고속도로 빨리 1024, 2048 고속도로 이제 지표하고 이렇게 연결되는 그래서 1층의 베이스 다이가 일종의 버스 터미널 같습니다. >> 음. 음 타고 데이터가 많은게 내려왔을 때 순서대로 얽히지 않고 출발하게 꼭 강남 버스터 인천공항까지 근데 기다리는 동안 쉬는가 심심하니까 샤핑을 해야 되잖아요. 여기 뭐 편의점이나 식당을 두고 이런 설계가 또 중요해집니다. 그다음 미래에는 지표 그러면 아 뭐 고속로 타고 갈 필요 없이 여기에서 그냥 계산하고 다시 엘리베이터 타고가 올라가자. 음일부 기능이 1층으로 들어올 수도 있습니다. 이런게 이제 한축은 Nv디아, SK 하이닉스 뭐 이렇게 어 TSMC가 연합할 수 있고 삼성은 어 뭐 AMD하고이 베이스다인은 직접 파운더리와 설계를 AMD하고 같이 하고 랜드는 어 직접 만들고 이런 여러 가지 상황이 있겠습니다. 가상적으로 사진 보면 이렇게 아래 위로 뚫린게 이게데 엘리베이터고요. 이렇게 싸면 요렇게 생겼습니다. >> 2010년대 초반에 하이닉스를 개발할 때 처음에는 막 엘리베이터가 덜덜거린다는 거죠. 자꾸 끊어지고 그래서 문제했는데 한 4, 5년 지나니까이 끊어지는 문제는 아무도 얘기를 안 하더라고. 기술이라는 거는 뭐 이게 이제 뭐 마이크로미터 스케일이긴 하지만 어 투자하고 노력하면 된다이 말씀을 >> 잘 치는 거네요. 예. >> 그래서 이제 아까 제가 조금 더 여러분께 설명드리면 요게 디램의 회로 구조인데요. 예. 여기 꼭 물구니 같은게 여기 들어가 있습니다. 여기다가 물을 채우면 1이고 어 물을 안 채우면 0입니다. >> 근데이 물이 잘 세요. 그래서 그 그래서 일종에 >> 어이 물을 채워 놓고 문을 열어서 1이 채워져 있으면 1이다. 닫는다. 뭐 이런 형태입니다. 그래서 읽고 싶으면 문 문을 열어서 이렇게 보고 닫고 이렇게 합니다. 그 으면속되니까이 망가지기 전지 계속할 수 있고 단점은 바구니가 작아서 이게 좁은 공간에 만들어야 되니까 전자를 담는 바군인데 이게 질질 세니까 여기를 계속 채워야 되고 그런 어려운 점이 있습니다. 요게 디램이고요. 랜드는 꼭 감옥 같습니다. >> 아, >> 아예 한 번 들으면 나오지도 못하게. 아, >> 그래서 데이터를 잃어버리지 않습니다. >> 아, >> 음. >> 그런데 이런 감옥 같은데 높은 벽에다가 뭘 집어넣어야 되잖아요. >> 집어넣는 현상을 양자역학적으로 터넬링 현상이라 그럽니다. >> 자, 기자님, 제가 평소 높이 띄기를 1m밖에 못 해요. >> 예. >> 10m 담이면 못 넘게 돼 있잖아요. >> 그런데도 내가 넘어 뚫고 들어갈 수 있는 확률이 있는게 양자역학입니다. >> 예. 왜냐면 양자역학에서는 입자의 성질과 전자가 파동의 성질이 있는데 입자의 성질이면 못 지나가요. 충돌이는 파동의 성질은 뚫고 지나가요. 그거 이제 실레인거 방정식을 풀면 >> 어 그 >> 그 파동성을 설명하는 전자의 식을 풀면 들어갈 존재가 있는 거예요. >> 그래서 강력한 전압을 딱 걸면 >> 담을 뚫고 들어가서이 안에 전자가 갇히는 거예요. >> 그 나오지 못하는 거죠. 아,는 막혀 있는 건데. >> 예. 그래서 안 지워지는 메모리가 됩니다. >> 아, >> 그래 한번 이거를 지우려면 큰 대공사를 해야 되는 거죠. 그걸 다시 쓰기가 어렵습니다. 그래서 근데 그럼 읽을 때는 어떻게 하냐? 그러면 >> 읽을 때 어떻게 읽어요? >> 그니까 똑똑 두드려서 누구 있어요 하고 물어보는 문은 열지 않고 그래서 안에 저 있어요 하면 그렇게 해서 자주 읽는데 쓰고 한번 가끔 기록하는데 쓰고 이렇습니다. >> 음. 야. >> 아하. 그래서 이제 HBM은 디램인데요. 이렇게 기쓰가 빠르고 플래시는 조금 느리고요. >> 예. >> 전력 소모가 >> 음. >> 어. 저희 그니까 확인을 안 해 봤지만 전력 소모가 디램보다 좀 낫다 그러네요. >> 근데 쓰기는 디램은 문 열고 닫은 무한된데 어 랜드는 10만 번 정도. 왜냐면 너무 담어 다니다 보니까 담이 무너져 버리는 거. 아, 저것도 제한이 있군요. >> 그래서 여러분들 자동차에 블랙박스 무한대 아닙니다. 몇 년 쓰면 용도가 다 돼요. >> 계속 쓰는 게 >> 기업들 입장에서는 얼마나 좋아요? 그래서 또 소프트웨어적으로 어떻게 하냐면 메모리를 돌려가면서 씁니다. >> 한 군데 계속 쓰면은 수명이 다하니까. >> 그렇게 그렇게 하고 뭐 그런 소프트웨어적인 알고리즘을 써서 그런 생명 연장을 하는데네. 예. >> 그다음에 용량이 한 열배 되고요. >> 음. >> 어. 요게 가장 중요한 포인트고. 음폭추론용 아까 제가 암호암호 저장용에 주로 사용이 된다이 말씀 >> 요즘 이제 출론 시장 그니까 AI 반도체 시장도 학습용과 출론용이 이렇게 자꾸 분화 분화되잖아요. 그 아성을 깨기 위해서 그중에 하나가 이제 출론인데요 HBF는 학습용에는 못 들어가고 출론용에 이제 아까 암호 책 만드는데 주로 사용이 되고요. >> 이제 그다음에 그러면 암호 말고 >> 또 어디에 쓰일까 보면 >> 질문이 수학 질문이면 수학 선생님한테 물어보고 뭐 국어 선생님한테 물어볼 때 물어보면 그거에 대한 암호책을 >> 저장해 뒀을 거 아니에요. 미리 그다음에 전에 또 자주 나왔던 질문은 또 그거 언제 암호 책만데 불러와 갖고 그렇게 해는 이런게 될 때이 어 엑스마다 각자의 또 암호 책이 있으니까 그게 또 다 어 되고요. >> 아까 말씀드린 거 질문을 보면 어 질문을 보니까 이건 내가 전에 생각 못 해 봤던 최근 거야. 그러면 자료를 조사해 와서 이제 생성을 하는데 자료를 옆에 쌓아두는데 또 HBF가 쓰인다. >> 음. 그래서 HBM은 책상 옆에 있는 바로 서제다. >> 예. >> HBF는 도서관 옆에 앉아서 자기가 공부하는 거다. 뭐 이렇게. >> 음. 음. >> 야. >> 아까 우리가 생각했던 저게 맞네. >> 그러니까 기자님이 굉장히 그 공학적인 그런 >> 저하고 통하는 거 같아.이 자료 만들면서 생각. 시청자 여러분들에게 어떻게 설명할까 이런데 >> 뭐 이런 이런 은유적이긴 하지만 이게 본질이에요. 본질적인 설명 이거 쌓는다. 어 뭐 그럼 특징이 다르니까 예 >> 그럼 질문 있는게 저게 컨셉적으로 맞아 보여요. 근데 왜 아직 그냥 어 이거 맞는 거네. 열심히 하면 되지. 왜 안 돼 그렇습니까? 니드가 지금 생겼다는 그니까 이런 발상을 할 수 있는게 HBM이 되니까 우리도 쌓울 수 있네. >> 그런 이제 그 기술도 있는 거고요. 어, 인프라도 있고 장비도 있는 거고. 두 번째는 아까 그 생성할 때 출론할 때 아 그러니까 스케일 업데 가니까 >> 더 많은 암호북이 필요하다는 걸 이제 깨닫기 시작합니다. >> 수수요 같이 생겨야 >> 그게 뭐 GPT 나온게 얼마 안 되니까 이게 나온게 이런 얘기가 나온게 이제 기술적으로 AI 쪽에서 한 1, 2년밖에 안 됐어요. >> 그 얘기를 랜드 플래시 하는 기업들이 들으니까 오 나도 싸울 수 있네. >> 나도 할 수 있네. 아, 그렇습니다. 그러니까 요즘은 새로운 상품을 기획하고 사업 플래닝 가려면 길을 열고 계속 남의 얘기를 들어야 되고 그다음에 또 자기가 준비된게 있어야죠. 예. 딱시기가 지금입니다. 그래서 제 생각에 지금 이제 전 세계 랜드플래시 기업이네 개가 있는데 아마 2027년 2년 후에 이걸 상품에 넣는 어 뭐 그런 플랜을 하고 있어요. >> 어 뭐 조금 잘되면 27년 좀 늦어지면 28년에는 나오지 않겠나? 음 저는 GPU의 발전은 거의 정체됐다고 봐요. ND디아도 그렇고 AMD도 그렇고 이런 아키텍처 메모리의 이노베이션을 통해서 성능이 계속 높아질 거다. >> 그래서 메모리 세상이 오고 메모리 기업의 주가가 오르고 제슨왕이 넥타임하고 한국 오지 않을까라는 상상을 하게 되는 것이 샘 알트만은 왔다 갔잖아요. 그죠예 >> GPU는 지금은 그럼 꽤 놀고 있어요. 메모리에 맞춰서 일하려고 하다 보니 아 그래요 거기서 정책 병목 >> 구간이구나예 6 70% 시간은 놀고 있고 >> 그러면 GPU를 왜 자꾸 업그레이드 합니까? 그 엔비디아 >> 뭐라도 해 보려고 그런데 예 학습할 때 좀 도움이 될까요? 그래서 지금 아마 지금 NvPU가 두 개가 옆에 붙어 있어요. 예. 그렇게 이제 두 배로 느린 거죠. >> 아마 새로운 거네 개, 여덟 개 이렇게 안 올라갈 거려지. CS 속표잖아요. 유심히 보세요. 원래 무의 법칙이면 >> 그 지금 Nv디아 보면 GPU가 한 개가 두 개가 되고 HBM이 여덟 개 있는데 그러면 법칙으로 보면 두 개 한 개 두 개네 개 여덟 개 들어가야 될 거 아니에요? 안 그렇게 돼요. 다 보십시오. 오히려 메모리가 자꾸 두 배,네 배, 여덟 배로 갈 겁니다. >> 옆에. >> 예. 근데 제가 뭐 뭐 쪽집게 선생님도 아니고 그렇긴 하지만 제 이제 공학적인 판단은 그렇습니다. 근데 맞을 것 같아요. >> 우와. >> 저를 누가 스카웃트에 가셔야 되는데. >> 그런 메모리의 수요가 폭발적으로 는다는 뜻인데요. 그 말씀. 팔이라는게 제가 어떻게 정의하는지 모르겠는데 어떤 새로운 제품이 나올 때마다 뭔가 두 배씩 밴드위스가 두 배든 용량이 두 배든 근데 그게 >> 2년마다라고 하면 20년이면 열 번이 이제 제너레이션 되는 거거잖아요. 두 배씩 이에 10승이면 1천이 돼요. >> 1천배 커진다는 거죠. 와 >> 저는 그러면 지금 삼성자 SK 하이닉스의 메모리 매출액이 100조다. 그럼 100조의 천배는 얼마가 되는 거죠? >> 얼마예요? 100조에 천배면 >> 100경 11경 10경이 되는 거죠. 그거의 수익률이 10%라고 하면 얼마가 되는 거죠? >> 1경이죠. >> 1경에 1경 우리나라 지금 1년 예산이 얼마죠? 600조죠. >> 그러니까는 얼마나 좋은 세상이 올 수 있냐. 이런데 이제 그 돈을 버이 아니라 누군가 우리 우리나라 잘 먹고 잘 살게 돈을 내 줄 거냐 이제 그런게 위기는 올 거 같아요. 그런데 예 그거가 아까 그 뭐 >> 뭐 뭐 무슨 파이낸 저 밴드 파이낸싱을 하든 어떻게 하든 어디까지 갈 거냐 그게 이제이 버블이 멈추느냐 아까 지속적으로 메모리 수요가 증가하느냐가 관계되 이제 그거를 >> 아닌 다른 방법이 없을까 해서 열심히 해 보는 분들이 이제 양자 컴퓨팅인데 >> 음 >> 아쉽게도 양자 컴퓨팅에도 메모리가 필요해요. >> 음. >> 그렇겠지. 당연히 >> 거기도 뭐 계산 뭔가 저장을 해놔야 되니까 어디 가서 공부하든 책상을 필요 양자 컴퓨팅이 가질 수 없는 거 하나가 실시간이에요. >> 100만 년 풀리던 문제를 뭐 한 달 만에 했다 이런 건 되는데 내가 인공지능한테 질문하면 바로 튀어나오지 못해요. 음 >> 거기도 메모하고 대역품 문제가 있어서 >> 그 그래서 어 제 인생에 이제 우리 가족 생명 뭐 이런 거 다 빼고 기술적으로 보면 실리콘니어 영원하리라. AI 영원하리라. 뭐 HBM, HBF여 영원하리라. >> 인공지능 거품 론과 관련해서는 지금 정도 돌리려면 그거를 이제 지금 손해 보고 있는데 >> 네. >> 업체들이 >> 네. >> 한 달에 지금 어느 정도를 쓰면이 사람들이 한가구대 관가구에서. >> 네. >> 그럼 지금 정도 돌릴 수 있을까요? 즉 아까는 교수님이 의료비 쓰는 정도만 써도 지금 이거 다 돌리고 남아 설명 주셨는데. 제가 언제 지금은 기억 계산을 해봤어요. 우리나라 5천만이 30만 원이나 50만 원씩 쓰고 전 세계 10억 명이 쓴다 이랬더니 지금 투자 다 되더라고요. >> 음. >> 그렇죠. 근데 지금 투자는 그렇게 될 수 있는데 말씀하신 대로 플래시 메모리도 해야 되고 뭐 몇 경을 우리나라가 벌려면 >> 네. >> 그거 사서 투자한 인공지능 업체들이 전 세계 인구를 대상으로 몇 경을 벌어야 되는데 >> 그렇죠. 예. >> 그 몇 경을 쓸 수 있어요, 사람들이 돈이. >> 네. 그거는 제가 거기까지 아직 준비 다 답이 준비 안 됐습니다. 이제 가정하면 그런 조건이면 제가 생각하는 이런 스케일 공칙이 계속 될 것이다. 근데 이제 그런 투자 >> 비용을 누가 될 거냐는 >> 지금 순간 잊어버리고 누군가 AI로 세계를 재패하려면 어떻게 어떻게 해야 되냐 보면 HBF까지 온다. 이렇게 >> 그렇겠네요. 그렇겠네요. 아니, 우리도 뭐 몇 경씩 벌면 우리나라가 뭐 나라에서 나라 돈으로 그냥 다 아이디 하나씩 주겠지 뭐. 하루에 제가 이런 생각도 해 봤습니다. 요즘 아파트 값이 오르는게 큰 사회적인 문제잖아요. >> 어, 그 주택 비용을 얼마나 쓸까 보면 젊은 사람들이 10억짜리 >> 어 저말 집을 살려면 5천만 원씩 20년을 저축해야 돼요. 이거 굉장히 불합리한 거잖아요. 그 5천만 원이면 한 달에 얼마요? 500만 원도 쓰는 거예요. 주택 비용에. 예. 그렇죠. 아, 그러니까 이런 비용을 못 쓸 쓸 수도 있겠다. 이런 생각이 들어요. 그 10분의 이거 없으면 자기가 직업이 없다. 막 이렇게 되면 이건 제가 극단적인 상상이니까 그냥 만화적인 상상입니다. >> 자, 이게 위스콘신에서 세우는 마이크로소프트 AI 데이터 센터 사진인데요. 여기 뭐 팬도라는이 밑이 AI 데이터 센터입니다. 냉각을 시켜야 되니까 이렇고요. >> 네.요 요 중에 하나가 메모리만 있는 건물로 알고 있어요. >> 아, 정말요? >> 이게 메모리 팩토리랍니다. >> 그 이게 무슨 말이냐면 지금 메모리가 엄청나게 필요하다는 거예요. AI 데이터 센터에. 음. >> 와. >> 와. 네. >> 그래서 어쨌거나 메모리가 필요한데 >> 예. GPU에 가장 가까이 있는 메모리를 S램이라고 여기 빨간색으로 그렸는데 이건 GPU 안에 들어가 있습니다. 예. 음. 근데 용량이 100바도 안 돼요. >> 그래서 HBM이 있는데 그 밑에 HBF가 있고 >> 아하 >> 그 밑에 네트워크 스토리지 ST가 있고 그다음에 메모리 공장 위치 조금 전에 요런게 들어간다. 이게 제가 제시하는 >> 메모리 계층 구조입니다. 아래로 갈수록 느리고 위로 가면 빠른데 위로 갈수록 용량이 작고 아래로 갈수록 용량이 >> 전통적인 컴퓨터 아키텍처에 나오지 않는 그림인데 제가 그려봤는데요. 그 중에 하나가 HBM과 HBF를 넣은 거예요. >> 디램이나 이런게 아니라 그다음에 메모리 공장을 제가 새롭게 넣었어요. 예. >> 예. 이런 데서 영감을 얻기도 하고 >> 하나 질문이 있는데요. 예를 들면 저 계층가 순차적으로 저렇게 되지 않고 >> 밑에와 위를 그냥 바로 연결하면 뭐가 불편합니까? >> 어 연결망이 조금 지에 바로 옆에 붙어야 되는데 >> 주먹만 >> 한 아니면이 책 그니까 도서관을 우리 책 내 책상 옆에 못 두는 것처럼 >> 맨날 왔다 갔다 한다면 얼마나 불편하겠느냐. >> 그리고 도서관 크기가 커서 책상 옆에 둘 수가 없어. 음. >> 너무 많은 책을 그래서 물리적인 크기가 >> 책상 없이 일하는 건 불편하죠. >> 그니까 저렇게 하는게 가장 효율적인 방법이겠네요. 필요한 거 좀 더 가까이 물리적인 크기, 용량, 속도 이렇게 해서 >> 저걸 주려면 많이 들어가야 된는데 저거는 수명은 얼마나 됩니까? 디램이나 저 HBM이나 HBF는이 >> D램, S램 이런 거는 제가 보기 하루 종일 쓴다면 10년 정도 될 거 같고 정확하진 않지만 그래서 요즘 메모리가 또 >> 옛날 거 빼고 다시 꼽느라고 그 수요가 HBF는 쓰기 나름인데 이거보다 짧아요. >> 다행 짧아요. >> 예. 아, 는게 아니라 그래서 아까 제가 >> 터링 현상이라고 전자가 뚫고 들어가잖아요. 그 자꾸 깨져. 그 벽에 구멍이나 >> 자꾸 깨다 보니까 개구멍이 나는 거죠. >> 그러면 못 쓰는 그래서 아주 잘 써야 돼요. >> 음. >> 예. 뚫고 들어가더라도 요번에 요쪽으로 들어가고 다음 번에 저쪽으로 들어가고 해서 한 곳에 구멍이 안 뚫리게 >> 끊임없는 수요가 나오. >> 그 우리 외장하도 자꾸 깨지는게 그래서 그러는 건가? 아, >> 외장하드는 좀 다르고 >> SSD 깨지. 아, >> 예. 그 뭐 깨진다는 표현이 물리적으로 던지셨어요? 아니면 >> 그런 건데 하여튼 수명이 다 해서 더 이상 뭐 기록이 안 나오거나 화면에 뭐 색깔이 이상하게 나온다 이런게 이제 다 이거와 관련이 있는데 >> 암호 책에 >> 노이즈가 끼면 >> 완전히 암호를 다르게 해석하잖아요. 갈아야 되는 걸 오라 그러고 막 이럴 수 있잖아요. 그래서 그런게 이제 랜드 플래시 메모리 회사가 HBF를 쓸 때 잘 쌓는 것도 중요하지만 어떻게 안정성 있게 쓰느냐. 그러니까는 한 군데만 계속 쓰다 보면 거기만 고장나서 전체를 갈아끼지 않게 >> 그런게 이제 소프트웨어의 힘입니다. 그래서 딥시크도 제가 언제 말씀드리지만 소프트웨어 하드웨어에 동시 설계에서 최적화하는게 진짜 실력이다. 예. 그렇게 그래서 삼성 SK 하이닉스도 과거에는 그냥 만들기만 잘해 주면 됐는데 이제는 완전히 AI 알고리즘까지 다 이해하고 컴퓨터 아키텍처 이해해서 연구 방향을 정하고 솔루션을 좋아야 되는 거예요. 왜냐면 과거에 PC 시대는 인텔만 강좌 인텔 입맛에만 맞추면 됐거든요. 지금은 AI 데이터 센터 꾸미는 회사가 마이크로소프트 아마존 뭐 오픈에 다양하잖아요. >> 네네. 예. 그런 거를 꿰뚫고 마케팅을 해야 되는 거죠. 기술적으로도 그렇겠구나. >> 그래서 거의 우리가 이제 메모리는 잘하는데 시스템 반도체를 못 한다 그러는데 이게 이제 시스템 반도체로 가는 길이 >> 거 그런 느낌이네요. 어 메모리도 >> 고객 맞춤명으로 다일 때 >> 제가 지금 찾아보니까 삼성전자 랜드 플래시 점유율이 여전히 30%대로 1위. >> SK 하이닉스가 20% 정도로 2위. 네. 그 >> 최근에 삼성전자 주가 오른 건 >> 뭐 HBM을 따라가네 만에 그게 아니라 샌디스크 올라간 것처럼 두 개가 더해. >> 플래시 메모리 시장이 크니까 이거는 두 개가 더 해졌다고 생각. 그렇게 생각해야 되겠네요. >> 음. >> 네. >> 대박. 좀 진작 좀 알 걸. 아니 그니까 메모리가 좀 많이 쓰일 거라는 얘기는 뭐 듣긴 들어풋이 >> 되게 그까 어정하게 알면 차라리 모르는 것만도 못해. 제가 그 반도체 전문가들한테 삼성전자가 이거 하이닉스의 HBM 이거 따라갈 수 있어요. 뭐 통과됐때에 물었더니 >> 네 >> 그 세대 바뀌었는데 옛날 것 통과되면 뭐 해요? 또쟁인데 >> 아 그게 삼성전자가 뭐 이렇게 크게 잘못해서가 아니라 애초에 디램 설계 자체가 이렇게 싸못됐어. 그니까 누가 그러다가 시 실 시루떡은 쌓아지지 송편이 쌓아지냐 이러면서 >> 처음부터 쌓는 걸 생각을 >> 송편도 눌러 갖고 쌓는 연습을 할 수 있는 >> 그 애초부터 쌓을 생각을 안 하고 만든 떡이라 이건 떡을 바꿔야 되는 건데 시간이 좀 걸려 그러길래 >> 그렇구나 그러니까 삼성전자는 >> 오르기 쉽지 않겠구나 싶어서 난 잘못했 칠 뻔했네 >> 와 >> 그런데 이제 말씀하신 대로 >> 뭐가 쇼치는게 뭐예요 오히려 >> 삼성전자 죽뻔했음 음 내지는 >> 김정 교수님이 가끔 오셔서 삼성전자 어때요라고 하면 >> 눈빛들이 요즘 괜찮아요. 그렇게 힌트를 또 제가 >> 제가 한 달 전에 그렇게 얘기했죠. 더 많은 걸 알고 있었는데 그 정도로 얘기를 했는데 기자님은 그걸 딱 무슨 의미인지 >> 잡하시더라고. 아 이거 뭔가 무서운게 있을 수 있겠구나. 근데 그때 저한테 질문할 때 의심스럽게 뭐 저하고 삼성전자하고 무슨 아 근 약간 왜 그 삼성전자를 감싸느냐 그러는데 제가 삼성전자하고 일도 많이 하지만 >> 아 >> 제 판단에 좋았어요. 조짐. 왜냐면 좋았어요. 조짐이. 근데 요즘 이제 주가가 많이 올랐죠. >> 네네. >> 10만 전자인가요? 50만닉만 >> 전자가죠.요 >> 한번 그래프 보시죠. >> 네. 예. 저는 HBF가 좀 보수적으로 봤습니다. 한 10년쯤 후에 매출액이 HBF가 더 커질 것이다. >> 더 커질 거다. >> 예. 그리고 그 시점에 삼성전자 하이닉스 SK 어샌디스크가 33%씩 가져가면 우리가 66% 가져가면 디램과 같이 하. 우리는 디램도 >> HBM도 잘하니까 샌디스크는 HBM은 없습니다. 우리의 장점이 있지 않겠나. >> 근데 이제 >> 낸 저 뭐죠? 그 Nv디아 입장에서는 HBM, HBF를 같이 쓰는 시나리오를 좋아하지 않을 것 같아요. >> 왜요? 왜비 >> 그러면 삼성전자 하이닉스한테 너무 의존되니까 >> 아 거기에 속도가 좌우될 테니까 >> 그래서에 >> 샌디스크하고 손을 잡을 수도 있을 것 같아요. >> 아 >> 그리고 HPM 쓰는 대신에 GDDR이라는 거 딴 메모리를 써 본다든가 >> 아 그런데 저는 정통 코스는 HBM HBF를 같이 쓰는 거다. 이렇게 판단하고 있습니다. >> 아 그렇군요. 야, >> 그래서 하여튼 이게 넓고 넓은 바닷가에 오막사리 집안채이 노래가 어디서 온 거지? 아, 아시고 계시죠? 그 캘리포니아 금강 개발할 때 >> 거기에 강 빗물에 자기 딸이 휩쓸려가서 잃어버린 그 사람이 부른 노래예요. 슬픔이. 근데 우리나라 번역할 때 이제 바닷가 이렇게 했는데 어쨌든 캘리포니아 금강 때 돈 벌은게 청바지인 것처럼 아니면 철도 나와서 돈 버는 것처럼 >> 어 AI가 큰 일이 일어날 때 돈 버는 건 메모리가 될 수 있다.이 말씀을 드리고 >> 어 스티브 잡스가 스탠프 대학교 2005년 연설에서스테이 헝그리 스테이플리시라 그랬거든요. >> 어 좋습니다. 조금 우직하게 꾸준히 하자 이런 거잖아요. 저는 뭐라 그러냐면 메모리즈 헝글리 메모리즈 플리시 하다고 이렇게 한번 써 봤습니다. >> 지금 우리 두 개의 기업이 이런 정신으로 일하면 >> 어 >> 좋은 날이 있을거다 이렇게 생각하고 여기습니다. >> 저 봐 저 스파게티를 저 쌓려 봐. 저 >> 위로 쌓았네. 위로 쌓았어. >> 네 >> 어마어마한 변화가 오겠군요. 야 이게 기회가 오네. 그래도 여전히 저렇게 메모리가 중요해도 여전히 AI 반도체는 엔비디아를 중심으로 돌아갈까요? 그래도 여전히 >> 제 꿈은 비디아 중심으로 돌아가기 위해서는 >> 예 >> 비디아가 메모리 회사를 살 거 같아요. >> 아 예. >> 예. 아, >> 마이크론이나 샌디스크나 >> 왜냐면 너무 중요하니까 돈 있을 때 지금 AMD나 이런데 돈 주고 막 집은 그 뭐야? >> 집은 얻고 이러고 막 하지 않나요? 그죠? 돈 투자하고. >> 예. 예. 그렇습니다. >> 아, 춤물 상상 아니 뭐 삼성 하이닉스의 회장 만나서 우리한테 팔아라. 메모리가 더 올랐을 때 그렇지. 어. 아니면 우리나라 기업이 >> GPU의 기능을 메모리로 갖고 오는 거예요. >> 음. 그게 >> 그게 가능해요. >> 그게 메모리 센트리 컴퓨팅인데 >> 음 >> 아뭐 가능해요 하고 질문하면 어렵죠. 그런데 그게 발상을 바꿀 수 있고 그게 우리나라를 살리고 우리나라 반도체 사람을 살린다. 그렇게 공격해 가야 우리도 카드가 있잖아요. 그럼 MBD하고 경쟁하는 회사하고 손잡을 수도 있고 이런 거죠. 음라는 겁니다. >> 근데 비디아는 또 나름대로 돈이 있으니까 >> 어 SK 하이닉스 삼성 살려고 할 수도 있고 조건이 안 맞으면 >> 어 마이크론이나 샌디스크를 아예 열배 주고 사 버리는 거죠. 그럼 자기네가 토탈 솔루션을 매번주고 매번 어차피 내가 살 거니까 설비 투자도 내가 알아서 할 수 있고 >> 그게 더 중요하다면 >> 근데 오픈 AI가 생각해 보니까 GPU보다 메모리가 더 중요해 오픈 AI가 살 수도 있죠. >> 말될 거 같은데. >> 저는 요즘 전 세계 경제 변화를 보면 그 정도 상상해도 어 죄는 아닌 거 같아요. >> 네. 그래서 그냥 혼 지금 상상인데 삼성 하이닉스는 좀 부제 크고 샌디스크가 딱 살기 좋을 것 같은데 그렇죠. >> 샌디스크가 웨스턴 디지털에서 독립해서 나왔는데 샌디스크에 주가 총액하고 해서 사는데 얼마 그까 지분을 10% 점유하는데 그런 거 한번 연필로 계산해 보시죠. >> 샌디스크가 지금 한 4, 50조 할 텐데. >> 그래도 거기보다 쌓 거 아니 와이 주가 오른 거 봐라. 샌디스크 어마어마하게 많이 올랐는데. 요 이제 이런 소문이 미국까지 가면 제 얘기가 가면 더 오르겠네요. 근데 의외로 저한테 가끔 외국 투자자들이 한 뱅크 투자들이 연락 와요. >> 기술을 어떻게 보시느냐 앞으로. >> 예. 그래서 제가 긍정적으로 얘기를 많이 했습니다. 죽 그러면 주가가 올라갈 거 같아서 >> 하이닉스 어떻게 생각하냐? 삼성 어떻게 생각하냐고. 아 주가가 올라가야 인수하기에도 거복스럽고 >> 아니 아니 제 입장에서 >> 어 그래야 국민들이 또 좋 좋 좋 좋 좋으니까 HBM 물어보고 뭐 이러면 지난 그니까 몇 달 전에 저희가로드 그니까 HBM 로드맵 발표를 했거든요. 영업 버전이 아니고 그냥 했는데도 외국인들이 다 봤더라고요. 그거 보고 질문 투자자들의 질문 많이 들어오더라고요. >> 다음 주에는 오픈 AI하고도 미팅이 있습니다. 야, >> HBF도 이제 내년 1, 2월에 기술 발표를 해 보려고 그래. 로드맵까지는 아니더라도. >> 그래서 영어봉까지 같이 올리면 어, 사람들 생각의 차이는 있지만 뭐 다 비슷한 생각을 곧다 할 수 있거든요. 그래서 우리가 한번 던져보려 이러고. >> 네. 야, 지금은 진짜 발상이 전환 무슨 일이든지 일어날 수 있겠군요. 음. 정말 예. 그래서 제가 야구 선수로 치면은 사할 4할만 돼도 어 엄청난 선수인 거잖아요. 오늘 얘기한 것 중에 한 4알에서 6알은 맞지 않을까 이 >> 진짜 올해 수능에는 점수 잘 나오면 >> 어 >> 그냥 카이스트 수학과 가세요. 이따 가지 말고 >> 학부를 수학하고 제가 다시 대학을 간다면 학부를 수학과 나와서 >> 대학원을 AI로 >> 그다음에 졸업후의 취업을 반도체 회사에 해서 >> 세 개를 한번 이렇게 >> 프로가 얘기했습니다. 나중에 뭐 또 그러지 말고 >> 음 >> 근데 이제학을 좋아 공학을 좋아하고 예 뭐 수학을 좋아하고 예 그러면은 그 따 >> 의학을 좋아해서 의대가는 사람이 어디 있어요? 그 공부 자체는 어렵죠. 음다 외워야 >> 뭐 순고한 그 사명이 있니까 하는 건데 뜻도 반도체 여기도 >> 여러 사람 구할 것 같습니다. >> 그래서 그래서 제가 이제 뭐 혹시라도 >> 뭐 정부에 얘기할 기회가 있으면 카이스의 의대를 세우자라고 얘기하고 싶어요. >> 그래서 의학 그 학생들이 학부는 공대 수학과로 나오는 거예요. 전상과나 전고 의정원 가서 의사 받고 다시 또 카이스트 와서 박사를 하는 의공 >> 의학과 공학을 동시에 하는 >> 그래 머리 좋은 애들 할 만해 그거 >> 예 그러면 근데 이제 특히 AI가 의학하고 많이 결합할 거 같아요. 그러면 AI도 알고 의학하면 >> 아 의사하기 싫을 거 같아. 그냥 개업하지 않고 예 그런 사람 한 1천명 만들면 우리 의학 산업 이제 반도체 다음으로 >> AI 다음으로 저는 그렇게 보거든요. 지금 AI 반도체가 의사 >> 언제든지 의사 개업할 수 있게 만들어 주면 반도체 공부할 거 같아. >> AI 공부하는데 이게 재밌거든요. 그럼 개업 안 하고 어 뭐 의사 과학자 될 수 있지 않을까? 그렇게 해서 제약 분야를 AI로 진출하면 그 엄청난 >> 부가 가치가 있는 산업이 >> 생길 수도 있지 않겠나 이렇게 생각 한 적이 있습니다. >> 이야. >> 그렇죠. 일단은 수능을 잘 봐야 된다. >> 수학과 수능 얘기 수학과 수학과 >> 아드님이나 따님이 혹시 지금 수능 준비하 >> 그리고 우리 교수님은 >> 면접으로 주로 뽑는다. >> 근데 그 면접이 선착순이다. 선착순이 >> 뽑는다고 할 때 후다가 보면 >> 의외로 생각보다 안 오다. >> 얘가 얼마나 평소에 관심과 노력을 많이 기울었으면 이렇게 빨리 올까 >> 그렇다. >> 어 애가 추력도 괜찮고 >> 기회는 열려 있습니다 여러분. 그러면 뽑아주면 됩니다. >> 지금 또 너무 몰리면 또이 규칙이 깨질 수도 있어. >> 아, 나도 진짜 >> 조금만 좀 늦게 태어났었으면 어, >> 공부 열심히 해서 김정호 교수님 방에서 뭐라도 할할 수 있는 건데. >> 근데 저희 연구실에 학생들이 >> 음. >> 어, 진짜 잘해요. >> 제가 >> 어, 제가 수업에 이제 생성 인공지능 석박사 수업을 하는데 어제예. 이제 6시간에 걸쳐서 조별 발표회를 했어요. 예. >> 아, 요즘 학생들 너무 잘해요. >> 뭘 잘합? 뭘 잘 >> 한번 그냥 수업에서 AI 이론하면서 저희 수업에서 턴 프로젝트가 네가 AI 배웠지 않느냐. >> AI를 설계해서 공학 문제를 해결해 봐라. 어 어떤 학생은 통신코딩을 하기도 하고 어떤 학생은 반도체 설계를 자동화하기도 하고 뭐 다 로보트에 들어가는 또 AI를 하기도 하는데 >> 딱 지금 두 개 두 달 한 거죠. 중간 구사까지예. >> 그거를 다 파악하고 약간의 데모를 보이더라고. 그럼기할 때는 >> 완전히 그 데모까지 보이는 거예요. 하루 종일. 그래서 그거 그냥 유튜브에 생중계 하려고 하루 종일 하는 발표를. 음. 근데 너무 잘해요. 어, 여러분 어들이 >> 뭐 의대간 학생들만 잘하는 거 같지만 사실은 또 캐릭터가 좀 달라요. 근데 >> 뒤늦게 철들어서 공부 열심히 한 학생들 너무 잘해요. >> 어, 그래 갖고 그 그런 학생들을 키운 부모님들이 존경스럽습니다. 예. >> 그래서 여러분들도 자녀 키우시겠지만 어, 집에서는 뭐 >> 어, 뭐 그 뭐 >> 그까 어떻게 보일지 모르지만 아, 요즘 학생들 참 열심히 하고 잘합니다. >> 예. 네. 그런 학생들도 있답니다. 우리 애들은 >> 왜 수학과 보내면 되잖아. 수학과 >> 아니야. 그냥 그런 학생들이 >> 잘 사는 나라를 만들어 주면 >> 네. >> 그게 행복한 거예요. 사람은 사실은 사람이 돈을 얼마나 많이 버냐 아니면 사람이 얼마나 행복하게 사냐는 건 >> 음 >> 어떤 나라에 태어나느냐로 대부분 결정되고 >> 우리가 잘 사는 가장 좋은 방법은 잘 사는 나라가 되는 거예요. >> 네. >> 그렇지. 나 나 혼자 잘 살려고 하면 얼마나 피곤해. 음. >> 근데 어 하고 잘 사는 나라가 되면 저절로 잘 사는 거니까. >> 음. >> 배 아픔만 조금 좀 잘 다독리고 살면 아새 뭐 뭐 요새 뭐 먹을 것도 많고 뭐 사실 뭐 좋지 뭐. >> 네. >> 수능 잘 봐라. 진짜 잘 보고 >> 수능 수능 수능으로 앞 >> 이번에는 수학과 가세요. >> 야 AI는 정말 음 >> 시대의 대세가 되는 거 같네요. 음. >> 야. 아, 진짜 큰 변화가 오고 있다. >> 그렇구나. 편안한 삶님이 애들부터 공대로 보내라. >> 음. >> 예. >> 의대 말고. >> 네. 자, 오늘은 여기까지 됐죠. >> 가이스트 김정호 교수님. >> 감사합니다. >> 감사합니다. >> 고맙습니다. 네. เฮ [음악]