🟣 99%가 모르는 빅테크 회사들이 AI개발에 목숨 거는 진짜 이유 - 김대식 교수 2부 '20분 AI 과외'

두렵고 우울한 내용이 있고요. 또 하나는 아주 두렵고 아주 우울한 내용이 있어요. 둘 중에 하나를 선택하시면 됩니다. 어떤 버전으로, 꿈과 희망이 조금이라도 있는 버전을 들으시겠어요? 또는 아주 절망적인 이야기를 듣고 싶으세요?

저는 직면하고 싶습니다.

네, 좋습니다. 저도 그게 맞는 것 같아요. 살짝 괜히 포장한 거 안 듣고 싶고.

좋습니다. 직면하고 싶어요. 이 책이 AGI 시대가 천국이 될지 지옥이 될지에 대한 이야기잖아요. 우선 AGI에 대해서 좀 설명이 필요할 것 같은데. 우리가 보통 많이 얘기하는 AI는 인공지능은 인간의 특정 능력을 대체하는 기술이에요. 그러니까 알파고는 바둑을 잘 뒀잖아요. 챗GPT는 대화를 잘합니다. 그런데 그것뿐이 못해요, 사실은.

그런데 반대로 AGI, 범용 인공지능이라고 부르죠. 이 녀석은 잠재적으로 인간의 모든 능력을 대체할 수 있는 기계라고 이해하시면 됩니다. AGI는 없어요, 이 세상에. 아직까지 사이언스 픽션이에요. 그리고 불과 2, 3년 전 챗GPT가 나왔을 때까지만 하더라도 대부분 전문가들의 의견은 특정 능력은 뽑아서 대체할 수 있지만 모든 능력 대체하는 건 어렵지 않을까라는 게 의견이었는데 올해 들어와서 분위기가 좀 많이 바뀐 것 같아요. 특히 샘 알트만 같은 분은 오픈AI에 5년 안에 AGI가 현재 가능하다라고 주장하고 있어요. 그리고 적어도 제가 아는 전문가들 사이에서는 AGI가 영원히 불가능하다고 생각하시는 분들은 더 이상 없는 것 같아요. 논쟁의 이슈는 이게 5년이 걸릴지, 10년일지, 20년이 걸릴지에 대해서 지금 얘기하고 있고 저는 개인적으로 한 10년 정도이지 않을까라고 생각을 합니다.

그런데 대표님도 그렇고 저도 그렇고 우리 같은 성인들, 어른이 되고 나서 우리가 인생에서 배우는 큰 레슨 중에 하나가 10년, 20년도 금방 지나간다는 거잖아요. 그 얘기는 무슨 얘기냐 하면 AGI가 현실이 될 미래가 막연한 사이언스 픽션 이야기가 아니고 우리가 모두 앞으로 경험하게 될 미래라는 매우 개인적인 문제라는 게 우선 저는 제일 중요할 것 같아요.

첫 번째, 두 번째는 AGI가 가능해지는 순간 기계는 어쩔 수 없이 인간의 능력을 추월할 수밖에 없어요. 인간이 지구의 주인이 될 수 있었던 것은 가장 똑똑했기 때문에. 그런데 인공지능이 등장하면, 특히 AGI가 등장하면 우리보다 더 똑똑한 녀석이 등장할 텐데. 갑자기 소름 끼치려고 그러는데 슬슬 이게 지금 무서운 버전입니다. 그런데 특히 이 인공지능이 만들어진 과정이 인간이 남겨놓은 인터넷 데이터와 지식으로 학습이 된 거잖아요. 그러면 우리 인간이 그동안 어떤 일을 했는지를 뻔히 알기 때문에 논리적으로 보면 이제는 본인들이 제일 똑똑하기 때문에 지구를 인공지능 위주로 바꿔놓겠다는 생각을 저는 충분히 할 수 있을 것 같아요. 그러면 물어보겠죠. 모기는 왜 있어야 돼? 치킨은 왜 있어야 돼? 그리고 제일 위험한 질문이 하나 있죠. 인간은 왜 있어야 될까? 도대체.

그러면 교수님, 여기서 역사를 보면 기원이 한 세 가지 정도 있는 것 같아요. 우선 첫 번째 기원은 고대 그리스 신화에 이미 나와요. 거기서 헤파이스토스라고 대장장이의 신이 있었어요. 이분은 대장장이이기 때문에 다른 신들의 도구를 이 사람이 만들어줘야 되는 거예요. 그러니까 다른 신들은 일도 안 하고 맨날 노는데 본인은 일을 해야 되니까 짜증 났겠죠. 그런데 어느 날 본인의 능력이 모든 걸 만들 수 있는 능력이니까 본인을 대신해서 일을 하는 기계로 만든 노예를 만들어요. 나의 일을 누군가가 좀 해줬으면 좋겠다.

첫 번째. 두 번째는 과학자들은 인공지능을 원할까? 정말 흥미로운 주제예요. 지능이라는 걸 만들어낼 수 있을까? 막연하게 저도 그렇게 시작을 했어요. 저는 뇌과학을 전공했잖아요. 그런데 인간의 뇌를 뜯어보면 아무것도 없거든요. 그냥 신경세포만 있고 두부같이 생겼어요. 1.5kg짜리. 그런데 저 두부같이 생긴 1.5kg짜리로 우리가 어떻게 세상을 알아보고 빨간 장미의 향기를 느낄 수 있고 5년 전 유럽 여행을 갔었던 기억이 어디에 남아있고. 그런데 아무리 봐도 거기에는 냄새도 없고 그림도 없고 소리도 없어요. 그냥 신경세포예요. 현대 뇌과학이 얘기해 주는 건 신경세포가 100조개 정도만 있고 시놉스, 그 연결고리의 가중치 값을 경험으로 바꿀 수만 있으면 지능이 만들어진다는 거예요. 그러면 인공지능도 가능하겠네? 해봤더니 되는 거예요. 이게 놀랍게도 과학자들에게는 너무나 흥미로운 주제인 건 맞아요.

세 번째로는 당연히 상상을 초월할 돈을 벌 수 있죠. 지금 AGI가 가능하다고 주장하는 실리콘밸리 빅테크 분들이 얘기하는 건 AGI가 등장하면 매년 경제성장률이 20%가 될 수 있다는 거예요. 그러면 상상을 초월할 부가 생기고 이게 AGI의 천국 시나리오입니다. 그러면 AGI가 등장하면 인간이 멍청해서 풀지 못한 문제를 얘가 다 풀어준다는 거예요. 첫 번째로 무한 에너지를 만든다. 핵융합 에너지. 지금 핵융합 에너지는 이론적으로는 될 것 같은데 우리 인간의 능력이 안 돼서 그 안에 있는 플라스마를 유지하는 그 수식을 못 만들고 있어요. 지금 알파고를 만들었었던 딥 마인드죠. 연구하는 AGI. 그래서 데이터를 다 집어넣으면 새로운 이론을 만들 수 있겠다라고 그분은 주장하고 이래서 우리가 핵융합 에너지를 풀면 무한 에너지가 생기거든요. 그럼 데미스 하사비스 같은 분이 얘기하는 게 현재 세상의 사회, 경제, 정치 문제에 진짜 원인은 에너지 부족이다. 그것 때문에 서로 싸운다는 거예요. 미세한 구체적인 문제에 집중하지 말고 이 문제에 진짜 원인인 에너지 문제를 무한 에너지로 풀어주면 나머지 문제는 자동으로 풀린다는 거예요. 그러니까 인간 뇌는 못하는데 AGI는 한다는 거죠. 왜냐? AGI는 기하급수적으로 더 똑똑해질 수 있으니까.

그런데 이건 여전히 지금 유토피아 시나리오입니다. 이게. 그래서 무한 에너지가 생기면 부족함이라는 게 사라진다. 또 하나는 질병을 다 해결해주고 모든 암. 그 다음에 제일 중요한 건 죽음이라는 질병을 극복하겠다라는 거예요. 실리콘밸리 분들은 돈을 벌려고 사업하시는 분들이 아니에요. 이 부분은 영생을 얻기 위해서 그 기술을 개발하는데 필요한 돈을 벌기 위해서 사업을 하시는 분들이에요. AGI가 그걸 해결해 줄 거라고 믿고 있어요. 이게 유토피아래요.

그럼 사람은 뭐 하지 하면 지금 빅테크 계시는 분들은 기본소득 같은 걸 본인들이 주겠다라는 거예요. 그래서 물어봐요. 그게 가능하겠냐 경제적으로. 우선은 현실적으로. 그럼 이분들이 최근에 얘기하는 건 원시시대 때 우리가 사냥과 채집을 했을 때 사냥을 제일 잘하는 누군가 있었겠죠. 거기서 어느 삼촌 그 그룹에서 제일 뛰어난 능력이잖아요. 한 사람의 능력으로 가족이 며칠 먹고 살았을 거예요. 만 년 전에 우리가 정착을 하고 농사를 지었잖아요. 마을에서 살았어요. 마을에서 농사를 제일 잘 짓는 사람이 있었겠죠. 그 한 사람의 능력으로 마을을 먹여 살렸어요. 19세기에 와서는 대기업들이 생겼잖아요. 그럼 사업을 제일 잘하는 사람. 예를 들어서 앤드류 카네기의 능력으로 피츠버그를 먹여 살렸고 대한민국에서는 정주영 회장님의 능력으로 울산을 먹여 살렸다는 거예요. 그게 뭐냐 하면 한 사회에서 공동체에서 제일 능력이 있는 사람이 능력의 범위가 점점 커졌다는 거예요. 왜냐? 기술이 발전했으니까. 덕분에 몇십 년 후에는 실리콘밸리의 CEO들은 본인들을 하이퍼 CEO라고 부르거든요. 하이퍼 CEO들의 능력으로 한 국가, 모든 사람들을 평생 먹여 살려줄 수 있다는 거예요.

이걸 이분들은 지금 유토피아라고 얘기하는데 저는 그게 바로 디스토피아라고 생각하는 게 그거는 민주주의가 아니에요. 사실은. 더 이상 봉건주의죠. 기술 봉건주의. 기술 봉건주의라고 지금 부릅니다. 그럼 사회가 정말 하루아침에 민주주의적인 사회에서 그런 봉건주의로 바뀌어질 수 있을까? 여러 번 있었고 제일 유명한 예제는 로마 제국시대 때 우리가 그걸 한번 경험했잖아요. 우리는 아니지만 역사책에 보면 로마가 처음에는 민주주의 공화정으로 시작을 했거든요. 그런데 로마가 너무 팽창을 하다 보니까 유럽을 다 점령했잖아요. 하루아침에 노예가 천만 명을 확보해버렸어요. 노예라는 건 뭐냐 하면 무료 노동력이라는. 그러니까 월급을 안 줘도 되잖아요. 이런 관점에서는 개념적으로는 노예가 AI 로봇인 거예요. 권한도 없고 월급을 안 줘도 되고. 그러니까 단순 노동은 다 노예가 했어요. 그러다 보니까 그 당시 대부분 로마 시민들은 농부거나 단순 노동을 했잖아요. 그런데 농사를 지금 다 노예가 짓는 거예요. 진짜 로마의 중산층들이 무너지기 시작했어요. 중산층들은 노동력을 팔아서 돈을 버는 건데 노동력이 무료가 되다 보니까 팔 수 있는 노동력이 없는 거예요. 그러니까 실업률이 40%가 됐다고 얘기를 해요. 그런데 한 도시에서 실업률이 40% 되면 폭동이 나잖아요. 그래서 어떤 일이 벌어지냐 하면 우선 중산층이 무너진 다음에 로마 민주주의가 무너지고 제국으로 바뀌었어요. 그 다음에 황제가 등장했죠. 봉건주의로 바뀝니다.

그 다음에 황제들이 제일 먼저 한 게 뭐냐 하면 기본소득을 주기 시작했잖아요. 왜냐? 굶어 죽으면 폭동이 나니까 돈 줘야죠. 입 막아야죠. 카이사르가 그랬잖아요. 브래드 앤 서커스라고. 빵. 서커스는 왜 필요할까? 시간이 많잖아요. 이제 시간을 때워줘야 돼요. 그런데 따분해. 그래도 똑같은 거 계속 보잖아요. 엔터테인먼트. 그러다 보니 점점점 엔터테인먼트가 폭력적이고 잔인해져요. 그러니까 얼마나 이게 인간의 원시성이 막 드러나는 거잖아요. 그러니까 지금 현실적으로 우리는 잠시 멈추자. 실패했잖아요. 지금 더 커졌으니까.

그러면 이제 우리의 질문은 AGI를 막는 것보다 최대한 AGI가 디스토피아가 아닌 유토피아로 좀 갈 수 있도록 일자리가 없어지더라도 이게 하루아침에 되는 것이 아니고 좀 더 시간을 두고 가는 그리고 인간이 어쩌면 미래 세상에서는 일과 노동이 분리되어야 될 것 같긴 해요. 사실은.

교수님에게 이거 꼭 여쭤보고 싶었어요. 이 분야를 워낙 잘 들여다보시는 분이니까. 10월 7일 날 샘 알트만이 첫 GPT가 이제 새로운 OS가 될 것이다. 사실 그게 저는 아마 대부분은 이게 얼마나 중요한 소식인지 아마 못 느끼실 수 있는데 제일 중요해요. 왜 챗GPT가 OS가 된다는 걸까? 인터넷의 역사를 사실 좀 볼 필요가 있는데요. 인터넷은 대단하죠. 이 세상에 있는 모든 사람과 정보를 연결시켜 줄 수 있잖아요. 그런데 사용하기가 어려웠어요. 코딩을 거의 했었어야 돼요. 그러다 보니까 기껏해야 그냥 엔지니어 정도만 쓰고, 과학자 이런 분들만 쓰고 20년 동안은 그냥 그렇게 뒀었어요. 우리가 90년도 초. 이건 어마어마한 혁신인 게 예전에는 인터넷을 경험하려면 코딩을 해야 되는데 이제 마우스로 누르기만 하면. 그리고 이제는 20년 전에 생긴 기술인데 사실은 옛날에는 개발자만 했던 걸 일반인이다 하는 거죠.

그런데 재미있는 건 뭐냐 하면 일반 소비자들이 인터넷을 체험하고 나서 전문가나 개발자는 생각하지도 못했던 걸 생각해냅니다. 일반 소비자들은 갑자기 90년도 중반부터 일반 소비자들은 인터넷으로 쇼핑을 하겠대요. 그리고 더 중요한 건 2000년도 초부터 일반 소비자들은 인터넷으로 친구들하고 교류를 맺고 싶대요. 소셜 네트워크. 전문가들은 상상도 못했어요. 그리고 여기에 가장 핵심은 인터넷이 검색 위주로 바뀌었어요. 구글이 1998년 검색 엔진이라는 걸 만들면서 지금까지 우리는 검색 엔진을 쓰는 거예요. 그런데 챗GPT가 등장하면서 정보를 그래픽으로 하는 것이 아니고 언어로 대하고 10월 7일부터 챗GPT에서 이제 앱을 우리가 가져와서 쓸 수가 있어요. 그 얘기는 뭐냐 하면 인터넷이 검색에서 대화형 인터넷으로 업그레이드가 된 거예요. 그러니까 새로운 OS고 이게 된다면 오픈AI가 완전히 모노폴리 독점을 하게 되는 거예요. 인터넷 세상의 지식을. 어마어마한 걸 발표한 거네요. 가장 떨고 있는 회사는 구글이에요. 한국에서는 네이버일 거고. 검색의 시대가 끝나간다는 거예요. 그리고 세상에 있는 모든 지식, 사람들하고 연결의 시작점이 AI라는 거예요. 그거는 진짜 큰 변화죠. 사실은.

그리고 이렇게 된다면 인간의 모든 정보를 AI가 학습하면 기하급수적으로 지능이 빠르게 늘겠죠. 이거는 다른 주제이긴 한데 지금 오픈AI나 이 빅테크들 이 친구들을 지금 하이퍼 스케일 회사라고 불러요. 지금 이분들이 상상을 초월할 데이터 센터를 지금 만들어야 되거든요. 이걸 대충 계산해 보면 지금 데이터 센터 크기를 전력 소모로 다 계산을 합니다. 1기가와트. 기가와트는 원자력 발전소 하나예요. 기가와트짜리 데이터센터가 전 세계에 적게는 수백 개, 많게는 수천 개가 만들어져야 된다고 알려져 있고. 그러니까 지금 에너지 회사들이 난리인 거잖아요. 전력 생산. 지금 전 세계적으로 원자력 발전소 붐이 일어나고. 그런데 또 원자력 발전소는 문제도 있지만 시간이 오래 걸려요. 10년 이상. 그러니 가스 발전소, 가스터빈. 인공지능 시대에 가장 핫한 종목들은 에너지예요. 사실은. 가장 필요하기 때문에.

그러다 보니까 투자 규모가 어느 정도냐 하면 앞으로 10년 동안 5경을 아마 투자해야 되는 거로 이해를 했어요. 그런데 이 회사들의 매출을 보잖아요. 아무리 긍정적으로 봐도 몇십조, 몇백조예요. 그러니까 이게 투자한 돈을 뽑을 수가 없어요. 사실은. 그래서 가장 최근에 특히 미국하고 유럽에는 AI 버블이라는 얘기가 지금 등장을 했어요. 두 가지가 있어요. 이 투자한 돈을 뽑을 수가 없는데, 첫 번째. 두 번째는 투자하는 비용을 보면 약간 순환 투자가 보이는 거예요. NVIDIA가 140조를 오픈AI한테 줘요. 그리고 오픈AI는 똑같은 140조를 오라클한테 줘서 데이터 센터를 지으라 그래요. 오라클은 140조를 NVIDIA한테 가서 GPU를 구매해요. 그러면 원래 돈은 140조인데 한 바퀴 돌고 나서 회사 3개가 매출이 140조씩. 140 곱하기 3이 돼 버린 거예요. 이렇게 없는 돈이 만들어지는 과정을 우리는 기억하거든요. 2000년도 초 닷컴 버블. 그래서 지금 많은 분들이 걱정하는 게 이거 버블이다. 두 번째, 터진다.

그런데 여기서 되게 재밌는 게 여러 시나리오가 있어요. 어떤 분들은 버블이 아니라고 그러는 분도 있지만 샘 알트만도 버블이라고 얘기를 했어요. 최근에 샘 알트만도 버블이라고 그러고 제프 베이조스도 버블이라 그랬는데 안 터진다. 유지가 된다. 또는 터져도 괜찮다. 왜냐? 본인들은 살아남는다라는 거예요. 그리고 이분들 얘기는 IT 발전에서는 그 인프라를 만드는 데 필요한 비용이 너무 크기 때문에 버블 없이는 안 만들어진다는 거예요. 그러니까 오픈AI가 투자할 수 있는 돈은 10조뿐이 안 되는데 천조가 필요하면 나머지 돈은 사람들한테 버블 환상을 줘서 투자를 하도록 은행이나 보험사가 투자를 해야 되는 거잖아요. 국가들이 그 투자를 받아서 인프라를 깔고 인터넷 때도 그랬다라는 거예요. 그리고 버블이 터지고 나서 능력 없는 회사들은 다 사라졌지만 그다음에 제대로 된 인터넷 비즈니스는 2000년 초부터 버블 이후부터 돈을 벌었다는 거예요. 그러니까 AI도 인프라를 만들고 버블 터져도 대부분은 사라지고 본인들 같이 능력 있는 회사들은 그때부터 돈을 번다는 거예요.

그런데 문제가 있잖아요. 그 투자한 돈은 어떻게 되는 건데? 그게 다른 거에도 쓸 수 있는 기회비용인 거잖아요. 그 4천조를 다른 데도 쓸 수 있었는데 여기 가서 그냥 날아가는 거니까. 그런데 지금 버블 토론을 많이 하고 있어요. 이거 밤새도록 얘기해야 될 것 같은데 사실 왜냐하면 AI에 관련된 얘기는요 어제 한 얘기가 오늘 달라져요. 일주일 전하고 오늘이랑 또 달라지고. 그래서 사실은 우리가 새로운 레이어들이 이 문명에서 엄청 쌓여가고 있구나. 그래서 이게 다 만들어진 다음에 들어오려고 하면 정말 나중에 감당도 못할 테니 김대식 교수님 영상도 보시고 또 책도 읽고 하면서 이 문명에서 한마디씩 할 수 있는 사람으로 들어오셔야 될 것 같아요.

대부분 AI 책들이 대부분 AI 어떻게 활용할 것인가 이런 기술에 관련된 얘기가 많아요. 그런데 이걸 문명으로 얘기하고 나서 문명으로 진짜 건드린 책이 하나도 없었어요. 솔직히 말해서 내가 계속 찾고 있었거든요. 그런데 'AGI, 천사인가 악마인가'. 정말 지금 우리는 G가 빠진 AI 시대에 있지만 언젠가 분명히 G가 붙을 거란 말이에요. 몇 년 안에. 그러면 이걸 한 번에 가장 짧게 이해할 수 있는 책이 이 책입니다. 저는 정말 너무 좋아서 두 번이나 읽었고 여러분 이 책을 읽으면 확실히 이 시대에 내가 어떻게 스탠스를 잡고 살아야 될지 내 사업은 어디로 가야 될지 내 개인은 어디로 가야 될지에 대해서 해답은 못 찾겠지만 그 방향은 분명히 서 있을 수 있습니다. 저도 그랬거든요. 여러분 꼭 이 책 읽어보시기 바랍니다. 그래서 여러분 교수님 오늘 정말 감사합니다. 감사합니다.