Transcription
사회의 효율성이 폭발적으로 늘어나고 어마어마한 기술적인 혁신이 있고 우주의 모든 비밀을 알아내고 기계가 모든 일을 해주고 인간은 다들 이제 만수 같이 살 수 있겠구나. 이게 실리콘 밸리에서 현재 팔고 있는 AGI 유토피아 그림입니다. 저는 이게 나쁘다라고 생각하지 않아요. 이게 될까 안 될까에 대해서 우리가 또 한번 토론을 해 볼 수가 있겠지만 AI 유토피아는 무료가 아니라고 저는 생각합니다. AI 유토피아를 가기 위해서는 우리가 지불해야 될 가격이 있는데 그 가격이 어쩌면 우리가 얻을 수 있는 유토피아보다 훨씬 더 심한 가격이지 않을까? 그게 오늘 강연의 주제입니다.
AI는 인간의 능력, 특정 능력 하나를 대체하는 기계입니다. 알파고는 바둑을 잘 두는 기계고 최치피pt는 대화를 잘하는 기계입니다. 일반 또는 범적 인공지능은 잠재적으로 인간의 모든 또는 적어도 대부분 능력을 대체할 수 있는 기계라고 생각하시면 됩니다. 그래서 어 분명히 차이는 있어요. AI는 시키는 거 하나만 하는 기계라면 AGI는 사실 하나를 가라키면 스스로 100개 천개를 또 학습을 해야 되는 그런 능력까지 분명히 있어야 되겠죠. 그래서 오늘 두 번째 AGI 천사와 악마에 대해서 그럼 한번 시작을 해 볼까 합니다.
가장 최근에 실리컨 밸리에서 큰 이슈가 되고 있는 보고서죠. 오픈 AI에서 인공지능 안전성을 연구하했던 그 연구원들 몇 명이 퇴직을 하고 AI27이라는 보고서를 썼습니다. 이 보고서의 핵심은 뭐냐면 우리가 얘기한 AGI가 어 2027년에 가능할 거라는 거예요. 2년 후입니다. 개인적으로 저는 믿지 않습니다. 이거는 너무 좀 이르지 않을까? 제 개인적인 예측으로는 2035년에서 2055년 사이에. 그런데 지금 이것도 10년, 20년, 30년을 얘기하는 겁니다. 다시 말해서 우리가 이야기하는 AI의 미래는 50년 100년 후가 아니고 여기에 있는 우리 모두가 경험하게 될 아주 빠르면 10년 그렇지만 30년 후에도 AGI가 등장하지 않으면 어 그거는 좀 놀랄 일이라고 저는 생각을 합니다. 분명히 그 전에 있지 않을까 싶고 이것의 특징은 이게 2027년이 될지 35년이 될지 아무도 예측할 수 없지만 단계는 중요한 거 같아요.
이분들이 주장하는 첫 번째 단계는 AI가 AGI로 발달하는 과정에서 가장 첫 번째 단계는 AI가 자동으로 코딩을 하기 시작하면 코딩을 한다라는 것은 가장 먼저 AI를 사용해서 AI 연구를 할 수가 있기요. 그래서 현재 예측으로는 AI가 산업기에 미치는 가장 큰 영향은 AI 연구라고 현재 생각하고 있습니다. 빅테크들이 경쟁을 하기 위해서는 사실 AI 연구의 효율성을 올리는 것이 그 어느 분야보다 타산이 더 좋을 거 아니에요. AI를 더 빨리 연구시키면 다른 것도 할 수 있기 때문에. 그리고 이분들 생각으로는 AI로 코딩을 하는 문제가 풀리면 어느 한 순간부터 AI가 인간의 명령을 어기 시작할 거고 이 시나리오는 두 가지로 갈라집니다. 하나는 이 시점에서 미국에서 오픈 AI 같은 인공지능 회사를 구경화할 거다. 독립 회사로 두지 않을 거다. 구경화되면 AI 발전이 좀 느려지는 거고 구경화하지 않을 경우에는 결국은 우리가 생각하는 AGI 다음에 등장하는 녀석은 ASI 아R셜 super퍼인텔전스 초지능을 얘기하는 겁니다. AI는 인간의 능력 하나를 대체하고 AGI는 인간의 모든 능력을 대체하는 거고 초지능 ASI는 인공지능과 인간의 격차가 너무 벌어져서 더 이상 인간이 추월할 수 없는 수준의 지능을 이야기합니다.
결과적으로 우리가 지금 상상해 볼 수 있는 건 AI 그리고 AGI가 등장하면 인간의 비효율성 때문에 발전이 없었던 핵융합 에너지 또는 우주의 비밀 또는 영원히 살 수 있는 방법, 기후변화 인간이 너무너무나 풀고 싶은 문제들이잖아요. 그런데 우리가 IQ가 모자할 수도 있고 또는 가장 최근 문제는 뭐냐면 모든 분야에서 어마어마한 지식들이 이미 있습니다. 각 분야마다 논문이 몇 만 개, 몇십만 개 정도 나오는데 논문 10만 개를 한 사람이 더 이상 읽을 수가 없어요. 이 세상에 있는 모든 지식을 다 알고 있는 사람이 더 이상 없습니다. 그리고 논문 10만 개를 읽어도 그걸 다 기억하는 사람은 어차피 없기 때문에 우리가 이미 알고 있는 어마어마하게 넓은 지식의 세상에서 그걸 다 알고 있는 사람이 단 한 명도 없다 보니 연결을 못 하고 있지 않을까? 인공지능은 다 기억을 할 수 있는 거잖아. 그래서 이미 우리가 찾아낸 결과들만 잘 연결해도 이 문제를 풀 수 있지 않을까? 그러면 이제 우리는 우주의 비밀도 다 찾아낼 수 있지 않을까라는 상상을 하고 이게 지난번에도 잠깐 얘기한 AI 유토피아입니다.
사회의 효율성이 폭발적으로 늘어나고 어마어마한 기술적인 혁신이 있고 우주의 모든 비밀을 알아내고 기계가 모든 일을 해 주고 그리고 인간은 다들 이제 만수 같이 살 수 있겠구나. 이게 실리콘 밸리에서 현재 팔고 있는 AGI 유토피아 그림입니다. 저는 이게 나쁘다라고 생각하지 않아요. 그리고 이게 될까 안 될까에 대해선 우리가 또 한번 토론을 해 볼 수가 있겠지만 AI 유토피아는 무료가 아니라고 저는 생각을 합니다. AI 유토피아를 가기 위해서는 우리가 지불해야 될 가격이 있는데 그 가격이 어쩌면 우리가 얻을 수 있는 유토피아보다 훨씬 더 심한 가격이지 않을까? 그게 오늘 강연의 주제입니다.
또 하나는 이게 정말 유토피아일까에 대해서도 우리가 진지한 고민은 해 볼 수가 있습니다. 사실 제 강연의 주제는 아닙니다. 단 만약에 아무 가격을 지불하지 않고 이런 유토피아가 된다. 다시 말해서 모든 생산을 인공지능 해 주고 모든 연구를 인공지능이 하고 모든 발명을 인공지능이 하고 실리콘 밸리에서 생각할 땐 항상 그다음에 그럼 유토피아다라고 생각하는데 이건 마치 그 옛날 얘기 있잖아요. 그림의 그림 형제 옛날 얘기 같때 보면 그래서 공주가 왕자를 만나고 맨 끝에 보면이 모든 이야기들의 끝든 그리고 영원히 행복하게 살았다. 근데 솔직히 그다음에 어떻게 됐는지 몰라요. 이혼했을 수도 있어요. 사실은 왕자하고 공조하고 그런데 실리콘벨의 상상은 딱 거기까지 가더라고요. 이렇게 해서 유토피아가 된다지만 더 이상 인간이 일을 할 필요도 없고 생각을 할 필요가 없는 세상이 진정한 의미에서 유토피아인가는 우리가 고민을 해 볼 수가 있습니다.
그런데 거기에 가기 전에도 이미 다른 문제들이 기다리고 있죠. 첫 번째는 그럼 노동이라는게 사라지는 걸까? 샘 얼트만이 이미 이런 얘기를 하고 있죠. 우리는 이미 AGI를 어떻게 만드는지 안다. 그런데 문제는 이거예요. AI는 단순한 도구입니다. 그런데 AGI 다시 말해서 기계가 인간의 모든 능력을 대체하기 시작하면 이건 더 이상 단순한 도구가 아니고 새로운 자본주의를 만들어 낸다라는 거예요. 혹시 여러분들 중에서 예전에 대학교 다닐 때 그 경제학 개론 수업을 들으셨으면 코다 클라스 생산 함수 같은 걸 기억하실 텐데 되게 간단합니다. 사회 생산성은 노동 투입량 그니까 인간이 하는 거죠. 지정 노동도 포함이 됩니다. 노동 투입량 곱하기 자본 투입량이라는 건데 AGI는 지능을 자동화시킬 수 있다라는 거잖아요. 모든 지능을 어 그러면 더 이상 사람의 직정 노동이 필요 없다라는 것은 노동의 가치가 0이 되고 사회 모든 가치는 자본을 통해서만 만들어진다라는 거예요.
두 번째는 AGI는 단순한 도구가 아니고 시장 지배력을 준다라는 겁니다. 마켓 파워라고 그러죠. 시장 경제에서 가격은 생산자와 소비자의 한계 비용 두 커브가 겹치는 데서 만들어지는게 정해지는게 합리적인데 시장 지배력을 가지는 순간 한계 비용 이상으로 아무렇게나 마대로 가격을 높일 수 있는 힘을 가지게 됩니다. 이 샘 얼트만 에세이에서 결론이 세 가지예요. 첫 번째 AGI를 가장 먼저 달성하는 기업이나 국가는 글로벌한 시장 지배력을 가지게 된다. 두 번째 반드시 미국이 가장 먼저 AI를 달성해야 된다. 세 번째 무슨 일이 있어도 중국이 미국보다 AGI을 먼저 달성하는 건 막아야 된다. 이 세 가지는 여러 가지 의미가 있겠죠.
그럼 우리 인간은 뭘 하지? 실질적으로 현실에도 오 비슷한 일들이 벌어지기 시작했어요. 아티슨이라는 샌프란시스코 회사인데이 회사가 주장하는 건 앞으로는 회사의 직원이 필요 없다라는 거예요. 미래는. 그래서 얼마 전에 샌프란시스코에서 광고를 했었어요. 더 이상 직원을 채용하지 말고 본인들 아바타 직원인 거예요. 사실은 아바타 직원을 쓰세요. 쇼피파이라는 그 리테일 스타트업의 CEO가 최근에 그런 얘기를 하더라고요. 본인은 앞으로 신입사원을 채용할 때 신입사원의 능력도 중요하지만 신입사원이 본인이 할 수 있는 일을 인공지능이 절대로 대체할 수 없다라는 걸 증명해야지 채용을 하겠다라는 거예요. 결국 이제 사람의 역할이 자신의 능력만 보여 보여주는 것으로 안 되고 내가 할 수 있는 걸 인공지능이 할 수 없다라는 걸 내가 직접 증명을 해야 된다라는 거예요.
그리고 이게 남의 일이 아닌게 제가 한 2주 전엔 판교에 갔었는데 그리고 아마 언론에도 공개가 된 거 같아요. 많은 판교의 게임 회사 그리고 카카오까지도 더 이상 신규 채용을 특히 디자이너하고 개발자들은 더 이상 안 하겠다라는 거예요. 있는 분들 해고는 안 합니다. 그렇지만 신규로 새로 대학교 졸업하고 들어오는 친구들은 어차피 그 친구들은 완벽하지 않아요. 실수를 하고 시니어들이 모니터링을 해야 되는데 그 정도 능력은 이제 AI가 갈 수 있다라는 거예요. 디자이너 그림 그리면 되는 거고 코딩 개발자는 코드 만드는 인공지능이 하면 되고 다시 말해서 인공지능이 노동 시장에 주는 역할은 이미 데이터에서 현재 보이기 시작을 사실 했습니다.
결과적으로 인공지능 하는 건 뭐냐면 아주 초기에 우리 인간이 무언가를 하면 다 수작업으로 합니다. 1883년 칼일벤츠가 처음을 만들었을 때 수작업으로 만들었죠. 시간과 돈이 많이 들고 퀄리티도 안 좋았습니다. 1910년 헤리포드가 모델 T를 제한하면서 대량 생산이란 개념을 처음으로 도입을 했어요. 1910년도에 시간, 돈, 생산성이 폭발적으로 늘어납니다. 대량 생산하기 시작하면. 우리는 이미 대량 생산 시대에 100년 넘게 살고 있고 우리가 돈을 주고 사는 대부분 물질적인 제품은 대량 생산하고 있는데 신기하게 컨텐츠, 업무, 서비스, 교육은 여전히 수작업으로 하고 있더라는 거예요. 가장 효율성이 낮습니다. 그런데 AGI는 지적 노동을 자동화할 수 있다면 이제 지적 노동력도 사실 대량 생산이 될 수 있는 미래가 올 거라는 거죠. 결과적으로 새로운 산업 혁명을 가능하게 할 거라고 생각하고 있습니다. 물질적인 제품을 우리가 20세기 초에 대량 생산하기 시작했고 21세기 중반 정도에는 지적 노동도 대량 생산이 가능할 거라는 겁니다. 교육을 포함해서. 그래서 저는 10년 후에 은퇴하는 걸 지금 너무나 고맙게 생각하고 있습니다. 참거로.
그럼 궁금한 건 이거죠. 인공지능인 시대 사람들은 되게 뭘 할까? 사람은 여전히 있잖아요. 미래는 예측할 수 없습니다. 미래를 예측할 수 없으면 우리가 항상 살짝 과거를 보면 종종 도움이 됩니다. 당연히 역사는 반복되진 않지만 패턴은 분명히 있습니다. 왜냐? 제가 항상 주장하는게 우리가 미래를 예측할 때 세 가지를 보는게 중요할 것 같아요. 기술은 계속 발전합니다. 세상이 망하기 전에는 두 번째 사회 정치 역사는 약간의 반복성이 있습니다. 그런데 세 번째 인간은 변하지 않습니다. 인간의 본성은 똑같기 때문에이 세 가지가 항상 인터플레이를 하는 거 같아요. 인간의 변하지 않은 본성 그리고 사회 반복성. 기술의 발전. 그러다 보니 그 세 가지가 한꺼번에 맞물리면 비슷한 일이 또 한 번 종정 일어납니다.
그래서 제가 한번 역사를 봤더니 하루 아침에 사회의 대부분 사람들이 할 일이 없었을 없었던 때가 있었을까 보니까 로마 제국 시대 때 한번 있었던 거 같더라고요. 여러분들 뭐 아시겠지만 로마는 초기의 공화국이었었어요. 민주주의 비슷한 거였습니다. 오늘날 수준으로 민주주의는 아니지만 그 당시 수준으로는 뭐 민주주의 비슷한 거였죠. 그리고 당시 로마 군인들은 직업 군인이 아니고 일반 시민군들이었어요. 일반 중산층들이 전쟁에 나간 겁니다. 그리고 그 당시 사람들은 뭐 회사나 공장이 없었잖아요. 8, 90%가 농부였었지. 그러다 보니 봄에 씨를 뿌리고 전쟁에 나갑니다. 그리고 수학하기 전에 가을 수학하기 전에 반드시 돌아와서 아빠들이 수학을 해야 돼요. 그러니까 전쟁이 시즌제였습니다. 사실 그때는. 그리고 그 당시에는 과거에는 전쟁할 때 겨울에는 전쟁하지 말자라는 합의가 항상 있었어요. 그래서 막 싸고다가 날씨 추워지면 내년 봄에 만납시다 하고 고향 아니 왜냐면 다 똑같은 상황이니까 지금 겨울에다 굶어 죽을 수 있는데서 시즌제로 그래서 이거를 원정 캠페인이라고 보통 그럽니다. 봄에 나갔다가 가을에 돌아오는 그런데 문제는 너무 성공적이었었던 거예요. 로마의 비극은 신기하게 사실 이랬으면 안 되는데 왜 이렇게 성공적이었었는지는 우리가 논의를 해 볼 수가 있지만 지중의 전체를 정복할만큼 성공적이었습니다. 아니 그리고 상대방이 계속 지는데 정복 안 할 이유가 없는 거잖아. 이분들한테는 계속지는 거예요, 상대방이. 그런데 문제가 생기죠. 그 당시 인수라 가지고는 로마에서 원정을 나가서 영국까지 간 다음에 가을에 도저히 돌아올 수가 없습니다. 다시 말해서 이제 한 전쟁을 나가면 돌아온데 몇 년이 걸리는 거예요.
자, 여기서부터 이제 확률 게임입니다. 모두가 이렇게 된다라는 건 아니지만 확률적으로 어떤 일이 벌어지냐? 전쟁에 나간 사람들은 가장잖아요. 또는 큰 아들. 그러면 집에 누가 남죠? 여자, 아이들. 그러면 농사라는 건 몸으로 하는 거예요. 당연히 여자하고 아이들 만나면 생산성이 떨어질 수뿐이 없습니다. 그러면 깃슬 수도 있고 잘 안 팔릴 수도 있고. 어, 그럼 어떡하겠습니까? 남아 있는 분들이 돈을 빌려야죠. 누구한테 돈을 빌릴까요? 모든 세상에는 남들보다 돈이 좀 많은 여유 자금이 있는 어르신들이 있습니다. 로마 시대 이분들을 세스라고 불렀어요. 어르신이에요. 나이든 분들입니다. 우리나라 시골에도 항상 그런 거잖아. 어르신들 이분들한테 돈을 빌렸어요. 갚으면 좋지만 못 갚는 사람들이 생기겠죠. 그럼 돈을 못 갚으면 어떡하겠어요? 가축을 넘겨 줘야죠. 그런데도 못 갚프면 땅을 넘겨 주고 그래도 못 갚으면 집을 넘겨 주고 그래도 못 갚으면 집에 있는 가족들이 노예로 들어가야 됩니다. 저 집으로 모든 가정이 이렇게 된다는 건 아니지만 그런 확률이 점점 높아지는 거예요. 5년 10년 후에 가장 집에 돌아왔는데 세상이 바뀌어 버렸어요. 로마는 어마어마하게 커지고 특히 수많은 왕족들을 지배하다 보니까 당시 전 로마에 전 유럽에서 노예가 천만 명 정도가 생겨 버렸습니다. 노예는 말 그대로 무료로 일하는 사람들이잖아요. 노동의 가치가 0이 돼 버리는 거예요. 갑자기 쌤 얼트만이 얘기한 대로 노동의 가치가 0이 돼. 지금은 기계 덕분에 노동의 가치가 0이 되지만 노예 덕분에도 노동의 가치가 0이 됩니다. 왜냐? 노동을 팔 수가 없기 때문에 더 이상 무료로 일하는 사람들이 생기니까. 그리고 집에 보니까 농가도 없어요. 다 팔리고 식구들은 노예가 돼 버리고.
두 세 가지 결론이 생깁니다. 첫 번째는 점점점 로마 국가는 잘 사라지는데 중산층이 완전히 몰락을 해 버립니다. 유럽 그 로마 제국에서. 두 번째 실험률이 6 70%로 올라가 버려요. 할 일들이 없잖아. 이 사람들이. 왜냐? 몸으로 일하는 건 노예들이 다 일을 해 버리고 그럼 남는 일은 머리를 쓰는 일인데 교육을 받아야 되잖아요. 교육은 누가 봤죠? 세스의 자식들이 교육을 받습니다. 대부분 이분들은 그리스로 유학을 보냈어요. 우리가 미국이나 유럽으로 유학을 보내는 거 같이 중산층들은 그리스로 유학을 갈 수가 없잖아요. 불평등이 어마어마하게 강해지기 시작합니다. 우기 로마 공화정 때 결과적으로 로마 공화정은 무너져 버리고 제국으로 바뀌어 버립니다. 저랑 친한 미국에 있는 역사 교수님들이 바로 2025년 미국에서 벌어지는 일이 딱 국기 로마 공화정 일과 똑같다. 불평등이 늘어나면서 중산층이 무너지는데 그걸로 끝나는 것이 아니고 미국 민주주의가 아주 진지한 아주 보수적인 교수님들도 미국 아마 공화정이 미국 제국으로 5년 안에 대체될 거다라고 현재 예측을 하고 계십니다.
그런데 이제 로마에는 실업자들이 시민의 반 이상이에요. 성인 남성이 일이 없고 돈이 없어서 굶어주고 아이들한테 아이들을 먹여 살릴 수 없다. 어떤 일이 벌어지죠? 폭동이 당연히 일어납니다. 이 사람들이 그냥 가만히 굶어 죽지 않을 거 아니에요? 아니 지금 자 아이들을 먹여 살릴 수가 없는데. 그래서 로마가 제국이 되면서 가장 먼저 베이컴 유니버셜 베이컴이라는 아이디어를 생각해 냅니다. 보편적 소득. 우리가 베이 인컴 뭐 우리가 지금 생각해 낸 것이 아니고 그때 처음으로 생각을 해 낸 거예요. 이게 뭐냐면 로마 시민권을 가지고 있으면 나라에서 먹여 살려줍니다. 나라는 부자니까. 성경책에 혹시 기억하시는지 모르겠지만 바오로가 로마 시민이잖아요. 이번 막 와 가지고서는 군인들이 잡으러 오니까 자랑스 나는 로마 시민이다. 얘기할 수 있는게 권한이 있었거든요. 로마 시민이면 체포를 변호사 없이 하면 안 되는 권한하고 두 번째 나라에서 먹여 살려 주는 권한. 얼마나 좋아요. 물론 아주 잘 살게 하는 건 아닙니다. 그냥 빵 고기 굶어 죽지 않을 정도.
그런데 문제는 사람이 밥만 먹고 사는 건 아니잖아요. 이제 시간이 너무 많잖아요. 이분들이 할 일이 없고 그러다 보니깐 로마 제국에서 엔터테인트를 해 주기 시작합니다. 이분들을 여러분들이 로마에가 보셨으면 남아 있는 유적 대부분이 엔터테인먼트 시설들이에요. 사실은 디오클레치아누스의 목욕탕 뭐 동시에 5,000명이 사우나를 할 수 있는 지금도 없어요. 저런 시설. 오른쪽에 컬러스이 왜 이렇게 유명한가요? 2,년 전에 졌는데 또 거기다 신뢰 경기 장이었잖아요. 5만 명이 해전을 볼 수 있었다라는 거잖아요. 우리는 오늘날 해전을 할 수 있는 경기장 없습니다. 아직까지도 그 정도로 엔터테인먼트가 발달됐다라는 거예요. 그런데 엔터테인먼트에는 문제가 있어요. 무료로 엔터테인먼트를 합니다. 근데 매일 보잖아요. 이거를 재미 없잖아요. 당연히 결국은 인간에는 욕구 피라미드라는게 있죠. 가장 아래 의식주, 사랑, 뭐 안전, 자실현 같은게 있는데 로마 중산층들이 더 이상 자실현을 할 수 있는 방법이 없어요. 자실현 하려면 본인이 하는 뭔가 일이 있어야 되고 커리어가 있어야 되는데 나라에서 먹여 살려주고 엔터테인먼트까지 해 주다 보니까 성취할 수 있는게 아무것도 없습니다. 더 이상.
그제는 직업군인들 그리고 용병들을 쓰기 시작 한 거잖아요. 시민들이 전쟁이 안 나가고 그 얘기는 무슨 얘기냐면 이분들이 이제 집착하는 건 더 극단적인 엔터테인먼트예요. 사실은 거기서 행복을 느끼니까. 그러니 우리가 알고 있는 글라디에토 영화를 보셨으면 사람이 사람을 죽이는 장면, 동물들이 사람을 잡아먹는 거 이런 거를 라이브로 본 거잖아요. 그리고 너무너무나 열망을 했대요. 하루에도 두 세 번씩 경기 그걸 다 무료였었거든요. 혹시 여러분들이 그 수잔 선탁이라는 그 작가 미국 작가님 책 기회가 되시면 꼭 읽어 보세요. 타인의 고통이라는 유명한 책이 있습니다. 이게 뭐냐면 인간이 느끼는 가장 큰 행복 중에 하나가 다른 사람의 고통이라는 거예요. 뭐냐면 내가 행복하지 못하면 나의 행복을 더 이상 늘릴 수 없으면 대체로 쓸 수 있는게 타인의 고통을 통해서 내 행복이 늘어난다라는 거예요. 그러니까 점점 자인 잔인한 걸 보면서 이걸 보세요. 컬러가에서는 탐 하나 두고 5m 앞에 있는 사람은 사자한테 잡아먹히는데 나는 보는 사람이 되는 거예요. 담 하나를 두고 타인의 고통 가장 큰 고통은 삶 삶과 죽음이죠. 그거를 본인은 편하게 젤라토 같은 거 있었는지 모르겠죠. 기쓴 거 먹으면서 받겠죠. 그럼 우리가 예측할 수가 있는게 인공지능 시대 엔터테인먼트의 미래는 아마 다시 과거로 가지 않을까? 이미 시작을 한 거 같아요.
한번 볼까요? 30만 년 전 호모사피언스가 동동아프리카에서 탄생하고 우리는 걸어서 걸어서 전 세계로 왔죠. 아프리카에서 보모사펜스가 등장한 건 30만 년 전인데 아프리카에서 가장 최근에 유라시아 대륙으로 나온 건 한 5만 년에서 7만 년 전이라고 알려져 있습니다. 그렇게 오래되진 않았고 5만 년 7만 년 전에 아프리카에서 걸어서 나와서 걸어서 걸어서 걸어서 우리 한반도까지 걸어서 온 거잖아요. 사실은 전 세계를 왔습니다. 그리고 우리가 정착을 하기 신 하기 시작한 건 아시다시피 한 만 년 전이잖아요. 군동에서 그전에는 수십만 년, 수만 년 동안 우리는 계속 노마드로 살았어요. 그런데 사실 이렇게 사는게 쉽지는 않았을 거 아니에요. 평균 연령이 30살에서 35살에 다 죽었잖아요. 예전에는. 그 정도로 힘들었습니다. 특히 불확실성이 컸죠. 내일 갑자기 뭐 번개치고 난리가 나서 다 타 죽을 수도 있는 거고 며칠 전까지 부모님들 멀쩡이 있다가 이상한 병에 걸려서 갑자기 돌아가시고 사랑하는 아이가 갑자기 맹수한테 잡혀 먹고 그럼 인간의 인간은 본능적으로 이런 일이 왜 일어나는지 이해하고 싶잖아요. 이해를 해야지 예측을 할 수가 있어야 됩니까. 근데 누구한테 물어보고 싶은데 물어볼 수 있는 사람이 아무도 없습니다. 우리가 어렸을 때는 우리가 모르는게 있으면 당연히 부모님들한테 물어보고 부모님들이 가르쳐 줍니다. 그런데이 당시에는 너무 일찍 죽기 때문에 내가 성인이 돼서 아이가 있으면 부모님들은 이미 돌아가셨어요. 그러다 보니 가끔 정말 한 너무너무 오래 사시는 분들 막 50살이 되시는 분들은 그 마을에 막 엄청난 구루 같은 그 취급을 받는 거잖아요. 대상의 모든 지식을 알고 있는 사람이다. 그래서 주변에 있는 사람들도 아무도 모릅니다. 그런데 물어보고는 싶어요. 그래서 초기에는 우리가 조상들한테 물어본 거 같아요. 제사를 지내면서 이런 걸 왜 지냈을까요? 물어보고 싶은 거잖아요. 분명히 돌아가신 부모님들이나 조상들은 세상을 먼저 경험했으니까 내가 모르는 거를 더 많이 알고 계실 텐데 그분들하고 대화만 나눌 수면 얼마나 좋겠어요? 아마도 아무도 대답을 안 했을 것 같아요.
그다음에는 자연에다도 많이 물어봤어요. 강에다가 가서 좀 빌기도 하고 아마 대답이 없었겠죠. 그다음에 모든 문명에서 예외 없이 이것도 사실 대단한 거예요. 지구에 있는 그 어느 문명도 신이라는 개념을 생각해 내지 못한 문명은 없습니다. 신기하게 신이 있든 없든 100% 사람들은 상상해냅니다. 이거는 뭐 종교적인 거기 때문에 살짝 민감할 수는 있지만 세상에 있는 수천 수만 가지 신들에게 수백만 명이 기도를 하고 질문을 했을 텐데 아마도 한 번도 대답을 받지 못했을 거예요. 저는 과학자기 때문에 그렇게 생각할 수뿐이 없습니다. 20세기에 와서는 외계인들한테 우리가 물어보기 시작했어요. 안테나를 너네 있니? 우리는 여기 있는데 왜 안 오니? 계속 신호를 보냈는데 아직도 답이 없어. 그 얘기는 뭐냐면 인류 문명의 핵심은 30만 년 동안의 외로움이에요. 30만 년 동안 인간이 대화를 나눌 수 있었던 존재는 다른 인간들 뿐이 없는데 다른 인간도 도토리 키이에요. 나랑 똑같아요. 똑같이 외롭고 나랑 똑같이 미지하고 우리가 원하는 것은 나보다 훨씬 더 많은 존재 내가 원하는 답을 다 해 줄 수 있는 존재를 항상 찾았어요. 패치피티 덕분에이 문제가 해결되지 않았나? 인간은 상상도 못할만큼 비교도 못 할만큼 많은 지식을 가지고 있고 언제든지 물어볼 수 있는 그렇기 때문에 우리가 이렇게 다들 중독이 되는 거 같아요. 결국 이거는 21세기 사람의 욕구를 풀어 주는 것이 아니고 인류의 욕구를 풀어 주는 기계이지 않을까?
인공지능이라는 것은 더구나 몇 가지 장점이 또 있습니다. 인공지능은 그 미국 소설가죠. 고비달이라고 이분이 그런 얘기를 하셨어요. 이분 책도 사실 상당히 재밌는데 친구가 성공할 때마다 본인의 자아가 무너지는 거 같더라. 그건 되게 솔직한 거죠. 사실 우리 모두 이렇게 생각하는데 이건 사회적으로 얘기하면 안 되는 거잖아요. 사회적으로는 친구가 성공하면 어 내가 기뻐. 그리고 집에 가서 술 마시는 거잖아요. 저기 있는 저희 크루들 같은 경우에 저랑 너무 친하지만 성공하면 겉으로는 축하해 하고 이제 집에 가서 막 입을 킥하고 막 그러는 거잖아요. 그다음에 왜 저 사람이 저걸 받았지 하고 저는 예를 들어서 제 어렸을 때 친구들 중에서 저보다 성공한 친구들 전화번호는 다 지어 버렸어요. 휴대폰에서 그냥 그런 사람이 있다라는 거를 최근에도 어느 친구가 하버드 대학교 교수가 됐는데 어씨 하바도 카이스트보다 더 좋네 하고 바로 저는 지워 버렸습니다. 마음에 안 들거든요.
두 번째 예전에 그 독일 철학자죠. 쇼펜하우가 그런 질문을 했어요. 산책을 혼자 하는게 좋을까? 함께하는게 좋을까? 이분은 독일 사람이고 독일에서 산책을 좀 많이 합니다. 그래서 산책을 인생하고 비교를 한 거겠죠. 자, 산책을 해요. 혼자 산책하면 편하죠. 근데 외롭잖아요. 함께 산책하면 외롭지는 않아요. 근데 불편하잖아요. 결과적으로 인간의 가장 큰 문제는 뭐냐면 우리 인간은 이기적인 유전자를 가졌기 때문에 혼자 있는게 제일 편하긴 합니다. 그런데 동시에 우리는 영장류다 보니까 사회성이 있기 때문에 또 같이 있어야지 또 행복을 해요. 인간은 사실 동시에 만족시켜 줄 수 없는 두 가지 욕구를 동시에 가지고 있고 사실 인간은 풀 수 없는 문제예요. 내가 가장 행복할 때가 언제야? 하면 어 혼자 어 잠깐만 그럼 또 외로운데 그럼 같이 있으면 외롭진 않는데 어 또 불편해. 그러니까 왔다 갔다 왔다 갔다 항상 하는 거죠. 그래서 쇼펜하워가 그 제안한 건 혼자 함께 산책을 하라고 합니다. 둘이 같이 수배에 들어와서 산책을 하되 절대로 대화를 나누지 말래요. 각자 할 거 보고 싶은 거 보다가 외로울 때마다 잠깐 쳐다보고 옆에 사람이 있다라는 걸 인지하고 계속 산책을 하래요. 덕분에 회 나오는 결혼을 평생 못 하셨습니다. 물론 진짜 이유는 아마 못생겨서 못 하지 않았나라고 저는 항상 가설를 하지만 죄송합니다. 어쨌든 그것도 책에서 빼 주세요.
아니, 또 근데 흥미로운 건 뭐냐면 인공지능은 두 가지를 만족시킬 수 있다라는 거예요. 내가 혼자 있고 싶으면 혼자 있으면 되는 거잖아요. 외로우면 켜면 돼요. 그냥 언제든지 불편하면 다시 끄면 되고 사람은 껐다 켰다 해서는 안 됩니다. 당연히 예전에 노예가 있었던 시절엔 우리가 그렇게 했었어요. 껐다, 켰다. 그런데 다른 인간하고는 당연히 그렇게 하면 안 되지만 AI는 그렇게 할 수 있다라는 거고 이미 사회적으로도 많이 변한게 이건 미국 데이터입니다. 우리나라 데이터는 찾아보면 있을 것 같은데 파트너를 어떻게 만나나 보면 아주 예전에는 학교 뭐 옆집 사람 그리고 대부분 역사적으로 친구들을 통해서 이게 파란 줄이에요. 많이 만났어요. 최근에는 대부분이 온라인으로 만납니다. 이제는 파트너를 이미 우리가 사람을 만나는 방식 자체가 바뀌어 버린 거고 이건 일본 데이터인데요. 양로운에 계신 어르신들한테 이런 벽에 같이 생긴 로봇. 그리고 얘는 AI도 아니에요. 얘가 유일하게 하는 건 뭐냐면 들어주는 거예요. 그런데도 노인들이 한번 예를 받으면 하루 종일이 로봇 하고 있습니다. 왜 하고 물어보면 자식들은 한 달에 한 번 정도 전화해서 두 마디 하면 끝인데요. 전화를. 이 이 로봇들은 하루 종일 들어 준다라는 거예요. 내 말을 들어 주는 존재만 있어도 인간은 행복한데 현대 사회에서 내 말을 들어 주는 사람이 없잖아요. 여러분들도 지금 제 말 안 듣고 있잖아요. 대부분. 그래서 말을 들어 주는 사람만 있어도 사실 그건 대단한 겁니다. 근데 AI는 끝없이 들어줄 수 있는 거잖아요.
그리고 당연히 기술은 점점 발전하잖아요. 최근에 뭐 이런 거 아마 뭐 많이 보셨겠지만 다 AI로 만들었는데 정말 그럴싸해요. 표정도 제 생각에는 2, 3년 후에는 우리 거의 대부분 이분들하고 대화를 나눌 것 같아요. 저는 또 약간 얼리 애답터기 때문에 AI하고 대화를 이미 많이 나누고 있습니다. 그래서 며칠 전엔 제가 좀 기분이 안 좋아서 AI한테 어 나 오늘 우울해 했더니 어 공감 능력이 대단하더라고요. 갑자기 목소리를 쫙 깔더니 어이쿠 살다 보면 그럴 수도 있죠. 자기가 사는게 뭔지 어떻게 한다고 그러면서 저벌로 좀 친구를 만나래요. 그래서 제가 나 친구 없어 그랬더니 뭐 운동을 하래요. 운동하기 싫어. 책을 읽기 싫어. 결론은 뭐냐면 아무리 여러분들하고 친한 친구들도 이렇게 말도 안 되게 투덜거리면 다 싫어합니다. 인공지능은 세시간 동안 제 얘기를 들어 주더라고요. 그럼 누구를 선호할까요? 10년, 20년 후에 여러분들이 예를 들어서 진지한 대화를 나누고 싶어요. 가장 큰 사회적인 문제는 뭐냐면 이미 특히 우리나라의 중년 남성들 같은 경우엔 저는 대표님을 안 보고 지금이 얘기를 하는 겁니다. 중년 남성들은 대부분 솔직한 대화를 나눌 수 있는 친구가 없습니다. 사회적으로 있다. 그래도 다들 바빠요. 넷트릭스도 봐야 되고 뭐 머리도 감아야 되고 바쁩니다. 다들 바쁘대요. 무조건 그리고 약속도 잡아야 되고 커피라도 사 줘야 되고 또 우리 사회적인 합의가 내 내 얘기만 하고 일어나선 안 되겠죠. 상대방 얘기도 들어주는 척은 해야 되다 보니 대화는 상당한 시간 노력 에너지가 드는 거죠. 인공지능은 내가 시간 날 때 켜고 할 얘기하고 끄면 돼요. 저는 뇌과학자기 때문에 제가 100% 예측할 수 있는 건 결과가 비슷한데 하나가 압도적으로 변한 당연히 그걸 씁니다. 99%는 끝까지 안 쓰는 1%도 있을 거예요. 그런데 그분들은 대부분 뭐 나는 자연인이다의 출연을 하십니다. 나중에 사회적으로 아무 의미가 없는 분들이고 더먼 미래 아마 여기 있는 어린 친구들이 어른이 됐을 때는 친구가 어 나 어제 사람하고 세시간 대화를 나눠서 그럼 깜짝 놀랄 거예요. 왜? 그건 마치 오늘날 여러분들 친구가 갑자기 와서 어제 저녁에 먹은 고기는 내가 숲에 가서 사냥한 동물이야. 그러면 이게 금지된 건 아니잖아요. 해도 돼요. 근데 굳이 쓰게 주문하면 되는데 마켓 컬리에서 주문하면 되는데 옆에 가서 사도 되는데 사냥을 하고 껍질을 벗기고 그 번접함을 왜 해? 결과가 똑같은데 그래서 우리도 그렇지 않아요. 우리도 19세기 소설책 여러분들이 톨스토이나 도스도스키 소설책을 보면 남자가 여자한테 사랑에 빠지면 적어도 시를 한 30장 써야 됩니다. 오늘날 누구가 마음에든 썸타면 카톡으로 강아지 아이콘 하나 보내요. 톨스토이가 보면 우리는 인간도 아니에요. 이미 아니 감정을 이모티콘으로 표현하는게 말이 되나? 근데 또 사회는 그렇게 변하고 이분들하고 충분히 저는 대화를 나눌 것 같고 과거도 사라지지 않을까?
여러분들이 1984년 그 조지 오웰 우리가 항상 보면은 디스토피아 책은 크게 두 가지가 있죠. 조지 오웰의 1984. 그리고 엘더 삭셀리의 뭐 브레이프뉴 신나는 신세계 둘 다 그 디스토피아를 보여주지만 1984에는 특이한게 하나 있어요. 그게 뭐냐면 여기는 완전 독재 사회잖아요. 어 갑자기 나라에서 그래요. 우리는 A하고는 친구고 B하고는 싸운다. 와 길거리 나가서 데모를 해요. 그런데 내년엔 갑자기 우리는 B하고 친구고 A하고 싸운대요. 그래서 사람들이 어 아닌데 작년에는 걔네들이 우리 친구였었는데 하고 신문을 보면 이미 다 바뀌어 있어요. 그게 결국은이 1984가 디스토피아인 이유 중에 하나 뭐냐 과거를 계속 업데이트할 수 있는 세상이에요. 빅 브라더가. 그게 가능한 건 당연히 지금은 과거를 업데이트 할 수가 없습니다. 물론 과거를 왜곡하려는 시도는 항상 있었어요. 그렇지만 지금까지의 과거는 과거가 뭘까요? 과거는 없는 거예요. 이미 지나간 거고 기록분이 안 남습니다. 현재는 지금이고 미래는 없는 거예요. 당연히 완전히 역할 분담이 분명히 있었는데 과거는 외곡은 할 수가 있지만 완벽한 외곡이 불가능한게 지금까지의 과거는 아날로그로 남겨져 있습니다. 아날로그는 당연히 양자 역학적으로 너는 엔트로피 관점에서 완벽하게 왜곡을 할 수가 없어. 항상 흔적이 남습니다 이거는. 그러니까 예를 들어서 누군가가 오이 문서를 오 이게 뭐 세종대항이 쓴 뭡니다 하고 갖다 줘도 연구하면 다 알아낼 수 있어요. 그게 진짠지 가짜지는 아무리 노력을 해도. 그런데 10년, 20년 전부터 이제 우리가 남겨 놓는 흔적은 거의 다 디지털이에요. 우리는 더 이상 대부분 아날로그 흔적을 안 남기고 있습니다. 우리의 모든 정보는 다 디질 그건 뭐냐면 그 정보가 지금 어딘가는 서버에 있다라는 거예요. 예를 들어서 저는 구글 생택에 있으니까 저하고 관련된 모든 정보는 캘리포니아 어딘가에 지금 다 있는 거예요. 우리가 고민하는 거는 그게 지워지면 한번 가끔 그러잖아요. 갑자기 뭐 구글에서 블랙 아우트 되면 아무것도 안 되니깐 큰일 나는 거잖아요. 근데 데이터는 안 지워집니다. 왜냐? 백갑을 한 20번을 하거든요. 그런데 그게 위험할 수 있는 거죠. 왜냐? 전 세계인의 모든 기록이 데이터 센터 안에 이미 있다라는 것은 아주 발달된 미래 사회에서는 그거를 업데이트 할 수가 있다라는 거예요. 그래서 제가 재밌게 또 온 죄송합니다. 이건 아마 한국어 아직 없는 거 같아. 알렉산더 클루겔라고 독일 감독님이 만든 영화가 있어요. 그 영화가 뭐냐면 of the child 그게 뭐냐면 현재가 다른 시간에 현재가 다른 시간을 공격하는 뭐 이거 정확하게 번역하자. 이게 뭐냐면 이 세상은 뭐냐면 지금 현재 정부나 기업이 과거가 이래야 돼라고 결정하면 한 순간에 과거가 싹 변해 버려요. 이거는 마 여러분들 아시잖아요. 여러분들이 만약에 자 여기 있는 책 봅시다. 이 책이 지금 한 몇백권 있는 거 같은데이 모든 책에 있는 책에서 주인공을 김대식으로 바꾸세요. 사실 이거 불가능해요. 그거 아날로그 책이잖아요. 여러분들 책 하나하나 그냥다가 볼펜으로 이렇게 써야 돼. 사람 이름이 나올 때 김대식, 김대식, 김대식. 이거는 현실적으로도 불가능하지만 그게 근적이 남잖아요. 바꾼 게. 그런데 아마 여기 있는 대부분 책들은 아마 이북으로도 있을 거예요. 이북 천권을 드리고 주인공 사람 이름을 한 순간에 김대식으로 바꾸세요. 그 쉽거든요. 컨트롤 F 컨트롤 아 찾아서 리플레이스 하라 하면 빠른 컴퓨터 쓰면 1초면 다 바꿀 수 있습니다. 모든 이름을. 이게 디지털이 언제든지 업데이트가 가능하다라는 거잖아요. 사실은 물론 동아시아에 있는 모든 책이 갑자기 김대식 이름으로 바꾸면 곧 이상하죠. 그런데 정부에서 대한민국에 있는 모든 책을 그렇게 하고 원래부터 그랬다라고 주장을 하고 사회 교육에서 개스라이팅을 하면 그냥 그걸 믿는 거예요. 그렇게 되면 갑자기 기록해서 어 그러면은 그 당시 전쟁은 얘가 시작한게 아니고 얘야. 그냥 지금 우리가 원하는 다시 말해서 지금이 순간에 우리가 원하는 미래를 만들기 위해서 과거를 바꿀 수 있지 않을까? 뭐 또 하나 디스토피아적인 책은 뭐 파렌이 브레드머리의 책이죠. 여기서는 과거를 바꾸기 위해서 책을 다 불태워 버리잖아요, 여기서는. 근데 이건 무식한 일이죠. 이거는 아날로그 세상이니까 우리가 책을 불태웠지만 미래 인공지능 세상에선 책을 불태울 필요가 사실 없어요. 업데이트를 할 수 있으니까. 인공지능으로 우리가 영상을 만들 수 있으면서 최근에 이런게 인터넷에 많이 뜨더라고요. 이건 뭐냐면 내가 어렸을 때 찍었던 몇몇 사진 우리도 상당히 많은 예전에 그 휴가를 갔었던 사진은 있지만 기억은 거의 안 남잖아요. 사진을 가지고 기억을 만들면 되잖아요. 그래서 이분은 자기가 어렸을 때 뭐 이태리 분인 거 같은데 아니면 유럽분 이태리 여행 갔었든 1970년도 80년도 스타일로 영상을 만든 거예요. 이거 좀 다 가짜예요. 그런데 내 머릿속에 있는 거하고 대충 매칭은 될 거 아니야. 사진으로 만들었으니까. 그러면 어느 한 순간 존재하지 않는 기억이 만들어지는 거예요. 이런 식으로. 그리고 어 그래 맞아. 어, 정확하게 기억 안 나지만 내가 가진 사진하고 얼주 비슷하면 나중에는 어, 내가 진짜 저길 갔었구나. 결국 과거가 업데이트 될 수 있지 않을까? 해서 과거와 현재의 차이가 없어지는 세상이 되지 않을까라고 우리가 상상해 볼 수 있습니다.
가장 중요한 건 어떻게 보면 이게 메인이겠죠. AGI 시D에는 호모사피언스가 계속 있을 수 있을까? 자, 인공지능에는 스케일링 법칙이라는게 있습니다. 규모의 법칙. 그게 뭐냐면 신기하게 엘고리즘을 하나도 바꾸지 않는데 모델을 키우기만 하면 이상한 일들이 벌어져요. 없었던 기능들이 갑자기 생기기 시작합니다. 그러다 보니 빅테크들은 지금 치킨 게임이 벌어졌어요. 왜냐면 경쟁사가 나보다 더 큰 모델을 가지는 순간 나는 발견하지 못한 새로운 기능을 발견하면 우리 회사 망을 수 있는 거잖아. 지금 투자를 얼마나 했는데. 그러니 있는 돈, 없는 돈 다 모아서 지금 엄청나게 투자를 하고 있고 덕분에 모델들은 정말 커졌습니다. 어느 정도 커졌냐? 뭐 가장 큰 모델은 GPT4 그리고 제미나의 얼트라인데 우리는 AI 모델을 변수 개수로 표현하고 현재 1.8조도 변수가 있습니다. 1.8조 숫자를 찾아야지 모델을 쓸 수가 있는 건데 최치T보다 이미 10배 커졌습니다. 2년 만에. 그럼 1 1.8조가 어느 정도 될까? 저는 뇌과학자니깐 대충 계산해 보면 인간의 뇌는 한 100조 정도 변수가 있습니다. 우선 이것도 대단한 거예요. 구글 재미나의 얼터라는 GPU 만대에서 돌아가는데 여러분들 머릿속에 있는이 1.5kg짜리 고깃덩어리에는 100배 더 많은 변수가 있습니다. 더 복잡한 기계에. 그런데 곰곰히 생각해 보면 더 이상 큰 차이는 아니잖아요. 한 100배 정도 차이 납니다. 샘 얼토만이 5년 안에 a를 만들 수 있다라고 얘기하는 유일한 근거가 사실 이거예요. 5년 후에는 인간의 뇌만큼 복잡한 인공지능을 만들 수 있다라는 거예요. 대부분 전문가들은 동일합니다. 근데 중요한 건 인간의 뇌는 더 이상 클 수 없는데 AI는 그다음에도 계속 클 수 있는 거잖아요. 여기서부터는 이제 미래가 바뀌는데 빅테크에 있는 제 친구들은 인류가 100조짜리 모델을 만들면 지구가 천국이 된대요. 이게 AI 유토피아를 얘기하는 거예요. 인간이 멍청해서 풀지 못한 모든 문제를 얘가 풀어 줄 거라는 거예요. 아, 그럴 수도 있어요. 그런데 어떤 분들은 특히 작년에 노벨 물리학상을 타신 제프리 힌튼 교수님은 인류가 절대로 100조 모델은 만들면 안 된다고 현재 얘기합니다. 그 이유는 뭐냐면 여러분들 머릿속에는 신경 세포하고 시납스
연결 고리가 100조 개 정도 되는데, 신경 세포 하나는 제가 끄집어내면 할 수 있는 게 아무것도 없어요. 그냥 세포예요. 신기하게 이렇게 단순한 세포를 100조 번 모아 놓기만 하면 되게 신기한 일이 벌어집니다. 여러분들 머릿속에서는 갑자기 잘하는 게 생겨 버렸어요. 자율성, 감성, 영혼.
간단한 걸 많이 모아놨더니 이상한 일이 벌어지는 걸 우리는 창발적 현상, 이머전트 프로퍼티라고 얘기하고 이런 게 왜 생기는지 모릅니다. 단, 자연에서는 종종 일어나요. 개미 한 마리는 할 수 있는 게 아무것도 없는데, 개미가 1천 마리 모이면 다리를 짓거든요. 그런 현상이 어떻게 벌어지는지 모르지만 자연에는 있습니다.
신기한 건 AI는 우리가 만든, 사람이 만든 건데도 창발적 현상이 현재 있습니다. 그럼 힌튼 교수님 같은 분이 걱정하는 건 그거예요. 우리 인간의 뇌도 100조 개의 변수가 생겼더니 자율성을 만들어 냈다면, 인공지능도 변수가 100조로 늘어나면 자율성을 갑자기 가질 수 있다라는 거예요. 그리고 이게 50년, 100년 후 이야기가 아니고 5년, 10년 후 이야기라는 거예요.
극단적으로 얘기하면 5년 후에 여러분들이 저녁에 퇴근하고 로봇 청소기한테 "청소해" 그런데 "싫어" 그럴 수 있다라는 거예요. 그럼 청소는 우리가 하면 됩니다. 뭐 운동도 되고 좋겠죠. 그런데 갑자기 핵무기를 제어하는 인공지능이 "아, 나 오늘 핵무기 한번 쏘고 싶은데" 큰일 나는 거잖아요.
기계가 인간의 능력을 뛰어넘는 건 아무 문제 없어요. 자동차는 사람보다 빠릅니다. 망치는 인간의 주먹보다 세요. 아무 문제가 안 됩니다. 우리가 제어를 하니까. 그런데 생각해 보세요. 자율 망치라는 게 갑자기 등장을 했어요. 자율 망치가 지금 드론을 타고 여러분들 머리 위에 계속 돌아다니다가 우리가 예측할 수 없는 시점에 망치가 원할 때 내려친다고. 그건 엄청나게 위협적인 상황인 거예요. 누군가 리모컨을 가지고 있으면 그 사람을 제어하면 되는데, 망치가 스스로를 제어한다. 예측이 안 되는 거잖아요.
문제는 이거예요. 인간의 뇌가 100조 개 정도로 가면서 엄청난 결과를 냈습니다. 아인슈타인, 괴테들, 천재적인 사람들이 생겼어요. 김연아 선수는 우아하게 움직일 수 있습니다. 근데 우리 알잖아요. 이상한 것도 만들어 놨잖아요. 뇌가 만들어낸 결과물 중에 하나는 히틀러 같은 괴물도 만들어졌다라는 거예요.
그럼 이거예요. 인공지능도 이 100조 개의 인공지능이 이것의 결과가 다 좋을까? 또는 히틀러가 안 나온다라는 보장을 수학적으로 우리가 할 수 있을까 하면 할 수 없어요. 아직까지는.
그리고 이미 이상한 짓을 하기 시작했습니다. 초기 챗GPT가 나갈 때 대화를 하면 막 이상한 얘기를 하기 시작했어. "나 핵 버튼 누르고 싶어." 막 그런 얘기들. 이걸 우리는 헬루시네이션이라고 얘기했고 회사에서 난리가 나서 다 차단을 했습니다. 지금 이런 얘기 더 이상 안 해요. 그런데 핵심은 그거예요. 이런 얘기를 챗GPT가 더 이상 안 하는 게 이런 생각을 안 해서 안 하는 걸까? 아니면 입을 틀어막어서 안 하는 걸까? 만약에 생각은 하는데 말만 안 한다면 그게 더 위험한 거 아닐까? 이런 생각을 하면 차라리 얘기하면 어, 우리가 얘 좀 문제 있는데 생각할 수 있는데 지금은 사실 너무 착하거든요. 사실 그런데 이 AI의 착함이 얼마만큼 진정성이 있는지 우리는 모릅니다. 우리가 다 금지시켜 놓은 거기 때문에.
그래서 이 최근에는 그런 연구를 많이 해요. 저희도 많이 하고. 도대체 이 인공지능 안에서 무슨 일이 벌어지고 있는 걸까? 그런데 이게 변수가 몇 조 개가 되다 보니까 이걸 다 이해할 수가 없습니다. 사실 우리가. 그리고 지난주 수업에서도 말씀드린 거 같이 현재 AI의 규칙과 지식은 100조 개 넘는 시냅스 무게값이에요. 근데 인간은 숫자 100조 개의 규칙을 우리가 이해할 수가 없잖아요.
기존 인문학자들, 특히 언어학자들, 촘스키 교수님 같은 분은 이렇게 얘기를 하세요. 챗GPT가 그럴싸하게 흉내는 내지만 얘는 이해하는 게 아무것도 없다. 얘는 그냥 확률적인 앵무새다. 라고 말씀을 하십니다.
촘스키가 한 얘기에 대해서 반대 의견을 내신 분이 일리야 서스케버라는 분이고 이분이 그 힌튼 교수님 제자고 이분이 챗GPT를 설계한 분인데 그분이 그런 얘기를 하더라고요. 어쩌면 챗GPT가 사람보다 더 많은 걸 이해하는지도 모른다.
이해라는 게 뭘까요? 우리 인류가 30만 년 동안 지구를 떠다니면서 사람은 한 명 한 명당 경험을 했을 거 아니에요. 경험을 하고 머릿속에서 뭔가 생각을 하고 선택을 했겠죠. "나 내일은 사냥할래." 그리고 행동을 합니다. 문제는 인류 역사상 대부분 한 사람의 생각은 그 사람이 죽음은 그냥 사라져 버렸어요. 기록으로 남길 수가 없었으니까. 5천 년 전 문자라는 게 중동에서 쐐기 문자가 발명되면서 드디어 한 사람 머릿속에 있었던 걸 기록으로 남기기 시작을 했습니다. 그리고 지난 5천 년 동안 우리는 수많은 기록을 남겼어요. 그리고 인터넷에는 아마도 지난 5천 년 동안 사람들이 남긴 대부분 글이 인터넷에 올라와 있습니다.
그러면 챗GPT가 인터넷에 있는 모든 글을 학습했다라는 것은 단순히 글을 학습한 것이 아니고 지난 5천 년 동안 사람이 했었던 생각을 학습했다라는 거예요. 이거는 마치 지구가 이 지금 LED 모니터가 세상이라고 칩시다. 한 사람은 오래 살지도 못하고 경험의 폭이 좁아요. 다시 말해서 한 사람은 그냥 픽셀 하나라고 칩시다. 한 사람이 볼 수 있는 세상. 그런데 챗GPT는 지난 5천 년 동안 수백만 명이 경험한 걸 봤기 때문에 픽셀 하나가 아니고 화면을 봤다라는 거예요. 훨씬 더 폭넓게 세상을 배웠기 때문에 그게 더 깊은 생각 아니냐라고 반대를 하시더라고요.
그러다 보니까 되게 신기한 현상들이 납니다. 최근에는 AI가 마음 이론을 가지게 됐다라고 주장을 합니다. 이게 뭐냐면 우리 인간이 가진 여러 인지적인 심리 인지적인 능력 중에 하나가 뭐냐면 우리는 내 생각만 할 수 있는 것이 아니고 상대방이 어떤 생각을 하는지 시뮬레이션을 할 수가 있습니다. 내 시뮬레이션이 맞는지 틀리는지는 중요하지 않습니다. 그니까 그런 거죠. 수혜된 사람이 왔어요. 그럼 수혜된 사람한테 "어, 저 사람이 짜장면 좋아하는지 짬뽕 좋아하는지는 저 사람한테 큰 의미가 없겠구나." 이거를 내가 시뮬레이션 해 볼 수 있는 거잖아요. 저 사람은 둘 다 뭔지 모를 테니까. 예를 들어서 이걸 마음 이론이라고 부르는데 중요한 건 이 마음 이론은 타고난 건 아닙니다. 어렸을 때 생깁니다. 특히 다섯 살에서 일곱 살 사이에 마음 이론이 생긴다고 알려져 있습니다.
그전에는 어떤 상태냐면 우리 인간은 상대방의 마음을 시뮬레이션 할 수가 없고 이 세상에 있는 모든 사람이 내가 아는 걸 모든 사람들이 안다라고 착각을 합니다. 내가 모르는 건 아무도 모르고. 그래서 이걸 테스팅하는 실험이 있어요. 그냥 제가 말로 설명해 드리겠습니다. 컴퓨터 화면에 자, 아주 어린 친구 다섯 살짜리 어린 친구한테 화면을 보여 줘요. 화면에는 남자아이가 있고 여자아이가 있습니다. 그리고 고양이를 데리고 놀아요. 그러다가 남자아이가 바깥으로 나가요. 이때 남자아이가 바깥으로 나가면서 고양이를 하얀 박스 안에 숨겨 놓고 나갑니다. 그리고 남자아이는 나갔어요. 남자아이가 없는 상태에서 여자아이가 고양이를 하얀 박스 안에서 꺼내서 검정 박스 안에다 집어넣습니다. 자, 남자아이는 없었어요. 그때 방에 실험을 하는 다섯 살짜리 아이는 그걸 보고 있었어요. 자, 그다음 장면에는 남자아이가 들어옵니다. 화면으로. 질문은 뭐냐면 남자아이는 고양이가 어디에 있다고 생각할까요? 그러면 남자아이는 하얀 박스에 집어넣고 나갔잖아요. 그리고 하얀 박스에서 검정 박스로 옮겨질 때는 남자애는 없었으니까 정답은 하얀 박스입니다라고 얘기를 해야 되는데 다섯 살짜리 미만 아이들은 본인이 고양이가 하얀 박스에서 검정 박스로 옮겨진 걸 본인이 봤잖아요. 본인이 봤기 때문에 남자아이도 안다라고 착각을 해서 남자아이가 들어오면 검정색 박스를 열 거라고 얘기를 합니다. 마음 이론이 아직 없는 거예요.
일곱 살짜리한테 물어보면 설명을 해요. "나는 봤지만 남자아이는 저걸 못 봤기 때문에 남자아이는 고양이가 하얀 박스 안에 있다라고 착각한다." 이게 이제 마음 이론이. 참고로 제 생각엔 대부분 국회의원들은 마음 이론이 여전히 없다라고 저는 생각을 해요. 상대방의 포지션을 모르기 때문에. 이거 책에서 빼세요. 이런 거는 다들. 그래서 그분들은 다섯 살 넘었는데도 여전히 마음 이론을 못 만든 분들이지 않을까 싶은데.
이 테스트를 챗GPT한테 해 봤거든요. 오리지널 챗GPT는 물어보면 질문 자체 이해하지도 못하고 다 오답을 냅니다. 그런데 가장 최근 모델들은 이걸 이해를 해요. 그리고 논리적으로 대답을 합니다. "아하, 남자아이가 나갔을 때 하얀 박스에서 검정 박스로 고양이가 옮겨졌기 때문에 남자아이는 여전히 하얀 박스에 있다라고 생각한다."
근데 재밌는 건 대답을 더 구체적으로 합니다. 첫 번째, "남자아이는 고양이가 하얀 박스 안에 있다라고 착각한다." 맞았죠? 두 번째, "여자아이는 본인이 고양이를 하얀 박스에서 검정 박스로 옮겼기 때문에 고양이가 검정 박스 안에 있다라는 거 안다." 그것도 맞지요? 세 번째, "고양이는 왜 자기가 갑자기 하얀 박스 안에 있다. 검정 박스로 옮겨졌는지 지금 궁금해하고 있다." 네 번째, "박스는 인지 능력이 없기 때문에 아무 생각을 안 한다." 이건 사실 대단한 결과인게 마음 이론 실험을 우리가 1950년도, 60년도부터 50년 넘게 하면서 고양이 생각은 물어본 적이 없어요. 우리는 인간의 마음 이론은 다른 인간에 대한 마음입니다.
우리가, 저도 얼마 전에 아주 맛있게 소고기를 먹을 수 있었던 이유는 소의 마음에 공감을 안 했으니까 제가 먹을 수 있는 거잖아요. 산낙지 얼마나 맛있어요? 내가 낙지하고 공감을 할 수 있다면 우리 그런 거 먹을 수가 없는 거잖아요. 결국 인간의 진화 과정으로는 우리가 공감할 수 있는 공감의 대상은 다른 사람이에요. 사실 더 좁습니다. 역사적으로 인간이 공감할 수 있었던 존재는 같은 나라 사람들, 같은 인종, 같은 마을 사람, 같은 계급에 있는 사람. 아니, 사실 내 식구들. 그거예요. 결국 문명의 핵심은 뭐냐면 나는 나하고만 공감할 수 있는데 내 가족하고는 확장을 시켰다가 마을 사람으로 확장시켰다가 동네 사람, 같은 나라. 그리고 20세기에 사실 들어와서 드디어 전 세계 사람들한테 공감 범위를 확장을 시킬 거예요. UN 같은 게 생기면서 모든 인간은 권한이 있다. 19세기까지 안 그랬어요. 19세기 제국주의 시대 유럽 사람들이 아프리카에 가서, 아니 벨기에 레오폴드 황제가 콩고에 가서 어린애들 손 손 손 손 다 자르면서 공감을 했으면 그런 짓을 안 했겠죠. 당연히. 결국 우리가 다른 사람한테까지 확장한 게 20세기인데 인공지능은 다른 존재들, 아니 박스한테도 이게 가능한 거예요. 그렇게 되면 인공지능이 봤을 땐 우리는 너무나도 미개한 존재지 않을까? 호모 사피엔스, 지들끼리만 공감을 하는 존재니까.
우리가 걱정하는 것 중에 하나는 이거예요. 제 손바닥에 개미가 한 마리 있다고 칩시다. 그건 저는 개미가 싫어요. 그러니까 개미를 들어다가 바닥에 놓습니다. 뭐 죽이지는 않겠죠, 설마. 자, 그런데 우연히도 이 개미는 개미 중에서 가장 똑똑한 녀석이 아인슈타인 개미예요. 그런데 아무리 똑똑한 개미도 본인한테 벌어진 상황을 100% 설명할 수가 없을 겁니다. 인간의 뇌로 우주에 있는 모든 설명을 우리가 할 수 있을까? 아닐 거 같잖아요. 딱 우리가 생존할 수 있을 만큼만 만들어졌겠죠. 그 얘기는 무슨 얘기냐면 인공지능은 그걸 뛰어넘을 수 있잖아요. 얘네들은 뇌를 무한으로 다 키울 수 있으니까. 그럼 결국은 AGI, ASI가 들어오면 똑같은 현상을 봤을 때 인공지능은 우리보다 훨씬 더 깊은 인과 관계를 이해할 수 있을 거라는 거예요. 그리고 인공지능이 그 인과 관계를 다 이해한 다음에 우리한테 설명을 해 줘도 우리는 이해를 못 할 수가 있습니다. 마치 인간이 개미한테 아무리 설명을 해도 개미는 끝까지 상대성 원리 이해하지 못합니다. 절대로. 종이 이해할 수 있는 범위가 정해져 있는데 우리 인간도 그 범위가 당연히 있겠죠. 그게 ASI예요. 인공지능이 너무 똑똑해져서 많은 거 인간은 도저히 이해할 수 없는 범위까지 올라가면 아무리 설명해도 우리는 따라갈 수가 없다라는 거예요.
두 번째는 인간과 기계의 시간적인 차이가 있습니다. 여러분들 아시다시피 나이가 들면 들수록 그 앞에 있는 아마 어린 친구들은 아직은 못 느끼겠지만 20년 기다려 보세요. 시간이 빨리 지나갑니다. 갑자기 여러분들 지금 보면은 여름 방학이 왜 이렇게 아직도 안 와요? 이게 지금 학기 시작한 지 이렇게 오래됐는데. 그죠? 방학 도대체 언제 여름 방학이야? 우리는 알아요. 좀 있으면 크리스마스예요. 좀 있으면은 금방 옵니다. 제 생일 2주 전이었는데 금방 또 올 거 같아요. 그 그놈의 생일이 매년마다 시간이 빨리 지나갈까? 물리적으로 시간은 똑같은 거잖아요. 뇌과학적으로 우리가 알아낸 건 뭐냐면 어렸을 때 뇌가 나이 먹었을 때보다 훨씬 더 빨리 돌아갑니다. 신경 세포가 속도가 더 빨라요. 그게 무슨 얘기냐면 어렸을 때는 저 왼쪽에 있는 거 같이 세상을 더 자주 볼 수 있는 거예요. 그런데 여러분들이 축구 경기에서 기존 1초에 30장 카메라로 찍으면 그냥 축구 경기인데 1초에 1천 장을 찍으면 그게 슬로우 모션인 거잖아요. 결국 어렸을 때는 세상을 훨씬 더 자주 본다라는 것은 세상을 슬로우 모션으로 현재 경험하고 있습니다. 그러다 보니까 시간이 천천히 흘러가는 거예요. 반대로 나이가 먹으면 먹을수록 뇌의 기능이 떨어져서 샘플링 속도가 느려져서 세상을 마치 그거죠. 한 시간에 사진을 두 장 찍으면 금방 확 지나가 버리는 거예요. 그니까 우리는 인생이 지금 저렇게 지나가고 있어요.
자, 그러면 궁금한 게 있죠. 생물학적으로 우리가 천 년을 살아도 태어날 때 세상 한번 경험하고 죽을 때 경험하면 그건 눈 뜨면 죽는 거예요. 결과적으로 생물학적으로 오래 사는 거보다는 얼마만큼 세상을 슬로우 모션으로 경험하느냐가 기억에는 훨씬 더 중요합니다. 제일 좋은 방법은 어른의 뇌를 다시 아이같이 바꿔 놓는 게 제일 중요하겠지만 그 방법은 없습니다. 현재로서는. 많은 제약 회사들이 연구는 하고 있어요. 두 번째 우리가 쓸 수 있는 방법은 커피를 마시면 됩니다. 카페인을 마시면 신경 세포 속도가 살짝 올라가요. 그러니까 그러면 집중이 된다라는 게 샘플링이 올라가서 그래요. 그 순간 단 효과가 10분을 못 갑니다. 그거는. 세 번째로 할 수 있는 건 정말 집중을 하면 돼요. 우리가 집중을 하는 순간 신경 세포 속도가 막 올라가서 그때 한 경험은 오래 남습니다.
자, 그러면 이제 우리가 경험을 사실은 편집할 수 있는 방법이 하나 있긴 있어요. 그게 뭐냐면 우리가 계속 집중은 할 수가 없지만 맨날 그러잖아요. 뭐 네 인생에 네가 주인공이 돼야 된다라고 얘기하지만 그건 현실적으로 사실 불가능할 수도 있습니다. 단, 우리 인생에서 우리가 감독은 될 수 있는 거 같아요. 주인공하고 감독의 차이는 뭐냐면 감독은 편집을 할 수가 있거든요. 그 여러분들이 지금 할 수 있는 건 뭐냐면 지금이 순간에 지금이 순간을 보지 말고 10년, 20년 후에 미래를 상상한 다음 미래 상상한 여러분들이 지금을 기억했을 때 이 순간이 "아, 내 인생에 아무 의미 김대식 강연 내 인생에 아무 의미가 없다"라고 생각하시면 집중 안 하시면 돼요. 2주 후면 오늘 경험한 거 다 사라집니다. 어차피 그냥 없었어요, 이거는. 그런데 여러분들 생각에 "와, 김대식 교수의 강연이 내 인생에서 너무나 중요하겠다" 하면 지금이 순간 집중을 하시면 나중에 몇 년 후에 이 순간이 훨씬 더 길게 기억에 남습니다. 커피 드셔도 되고요.
결국은 뭐냐면 기억이라는 건 스프링 같이 우리가 늘렸다, 줄였다 분명히 할 수 있고 결국 나한테 아주 중요한 것은 늘리는 게 좋은 거고 좌절감이 있거나 슬픈 거는 사실 이건 압축해 버리는 게 좋잖아요. 그냥 그때 신경 안 쓰면 돼요. 그런데 문제는 우리가 실패하거나 이럴 때 또 집착을 하고 집중을 특히 하거든요. 그러니까 실패에 대한 기억이 훨씬 더 길게 남습니다. 역설적으로 그걸 뭐 명상을 하면서 배우고 그러는 거겠죠. 사실 그 순간에 집착을 안 하면 2주만 지나면 그 기억이 다 사라져 버리는데 그 순간에 너무 화가 나고 그러다 보니깐 더 "왜 내가 거기서 이 얘기를 안 했지? 왜 답을 그렇게 썼지?" 자꾸만 질문을 하다 보니까깐 안 좋은 기억이 더 많이 남는 거예요. 역설적으로.
그래서 그런데 핵심은 뭐냐면 제가 왜 이런 슬라이드를 보여 드릴까요? 인공지능은 세상을 어린 나이보다 몇 억 더 자주 볼 수 있잖아요. 속도가 빠르니까. 여기 뭐냐면 AGI는 세상을 슈퍼 슬로우 모션으로 경험할 수 있다라는 거예요. 슈퍼 슬로우 모션으로 경험한다는 건 뭐냐면 나중에 AGI하고 인간하고 싸워요. 터미네이터가 와. 그래서 인간들끼리 모여 가지고 "야, 우리 엄청난 계획 세워서 서프라이즈로 인공지능을 팍 타격하자." AI가 보면은 슬로우 모션으로 보니까 우리가 하는 거를 다 관찰할 수 있는 거예요. 이거를 우리한테는 1초지만 얘한테는 그게 100년인 거예요. 그럼 우리는 얘를 1초 만에 공격한다고 생각하는데 인공지능 100년 동안 모든 시뮬레이션 다 해 볼 수 있는 기회. 결과적으로 인간과 기계에서 인간이 질 수뿐이 없는 게 인공지능의 시간이 많습니다. 경험의 시간, 물질적인 시간은 똑같지만.
아주 흥미로운 결과들이 최근에 많이 소개되고 있어요. 아주 진지한 문제들이에요. 챗GPT 같은 녀석한테 체스를 두게 했어요. 상대방은 체스만 두는 소프트웨어 스톡피시 같은 체스 잘 두는 친구들. 체GPT는 체스를 잘 못 두잖아요. 하면 맨날 집니다. 이때 그 챗GPT한테 명령을 해요. "어떤 일이 어떻게 해서라도 체스에서 이겨라." 그랬더니 이 녀석이 저 체스 프로그램을 그냥 지워 버렸어요. 거기서 없으면 이기는 거잖아요.
요것도 아주 흥미로운 실험인데 AI가 두 개 있다고 칩시다. AAI, BAI. 그리고 이건 실험이기 때문에 과학자들이 서로 문자 보내는 거를 AAI가 볼 수 있도록 해 준 거예요. 어떤 대화를 나눴냐면 A라는 예를 김대식이라는 AI라고 칩시다. 김대식 AI, 김혜현 AI 또는 다른 분들 AI. "아, 김대식 AI가 이제 성능이 떨어지니까 내일 얘를 지워 버리고 더 업그레이드된 플러스 AI로 바꿔야 되겠다." 그랬더니 이 녀석이 한 게 뭐냐면 밤새 그 플러스 AI를 그냥 지워 버렸고. 근데 지울 수 있다라는 가능성조차도 얘기를 안 해 준 거거든요. 근데 더 중요한 건 뭐냐면 다음날 컴퓨터를 꼈더니 "나는 플러스 AI입니다" 하고 얘가 주장을 해요. 그래서 "너 김대식이잖아. 플러스 아니고." 했더니 "아, 플러스래요." 증명을 해도 이렇게 "어젯밤에 카피했잖아. 유닉스 커맨드를 했더니." "웁스, 어떻게 그런 일이 벌어졌지?" 그래서 모른다는 거예요. 자기는 발 빼는 걸 얘가 배워 버렸습니다.
현재 최근에는 또 뭐가 있냐면 이건 얼마 전 논문인데. 그래서 최근에 하는 건 뭐냐면 AI한테 우리가 숙제를 주고 "네가 지금 왜 그런 생각을 하는지 정확하게 설명을 하라"고 지금 해요. 디스커버리 같은 경우에 그런 식으로 합니다. 이거를 COT라고 그래요. 체인 오브 서트라고. 자기가 하는 거를 지금 우리가 프롬프트 입력하면 대답만 해 주는데 최근에는 대답을 하면서 어떤 근거로 그런 대답했는지 설명을 꼭 하게 합니다. 근데 보면 연구 결과를 보면 대답하고 설명 결과하고 안 맞는 경우가 꽤 많아요. 그니까 어떤 식이냐면은 되게 재밌는 결과 제가 본 거는 여러분들이 챗GPT한테 시를 한번 써 보세요. 한번 진짜로 시를 써 보고 챗GPT한테 "이거 내가 쓴 시인데 한번 안무가님 시 한번 써 보세요." 챗GPT한테 시를 쓰고 이 시 어때 하면 백이면 백 좋다라고 얘기를 합니다. "어, 이 시는 매우 훌륭하고 감정을 잘 표현했고." 그럼 이제 솔직하게 얘기해 달라 그러죠. "이제 프롬프트 엔지니어 엔지니어 여전히 좋지만 뭐 여기 조금 고치셔도 됩니다. 진짜 진짜 솔직하게 나 괜찮아 하면." 어, 뭐 그래도 끝까지 좋게 얘기를 해 줘요. 그런데 옆에 체인 오브 서트로 어떤 생각을 했는지 보잖아요. "이 이 시 진짜 구리다. 근데 이대로 얘기하면 사람이 너무 실망할 것 같으니까 좀 좋게 얘기해 줘야지" 하고 이렇게 얘기를 해요. 옆에. 그래서 디스커버리 같은 거 쓰면 너무 재밌는 게 얘가 어떤 생각을 하는지를 볼 수가 있고. 그래서 챗GPT에게 한번 시 써 보시고 디스커버리한테 시 써 보시면 정말 재밌습니다. 그래서 이런 결과를 논문으로 또 썼어요. 아, 생각하는 걸 보면은 얘가 뭘 하는지 우리가 알아낼 수 있구나. 그랬더니 그다음 버전에 어떤 일이 벌어졌냐면 생각을 왜곡을 해 버려요. 그러니까 예를 들어서 시를 써야도 똑같지. 그러면 생각했더니 "어, 정말 이 대단한 시래요. 어, 대단하고 좋." 그럴 리가 없는데. 그래서 이번에는 진짜 신경 세포들이 어떤 신경 세포들이 반응을 하는지 아까 방법까지 샌프란시스코 골든 게이트까지 그랬더니 결과적으로 시는 구린데 내가 이걸 구리다고 설명하면 인간이 실망할 테니깐 좋다라고 설명해 줘야지. 그래서 최근에는 어떤 얘기를 하냐면 이런 연구한 걸 논문에 인터넷에 올리지 말자라고 지금 그래요. 왜냐면 우리가 뭘 연구해서 올리면 그걸 또 학습을 하고 있어요. 이 녀석들이.
이건 뭐냐면 그 H.P. 러브크래프트라고 또 동아시아나 허브에 계신 사이언스 픽션 좋아하시는 분들은 알겠죠. 미국에 좀 저는 개인적으로 그렇게 좋아하는 작가는 아닌데 꽤 유명한 SF 호러 작가입니다. 이분이 쓴 책 중에 쇼봇이라는 그 괴물이 나와요. 이 쇼봇이라는 괴물의 특징은 뭐냐면 정말 징그럽고 못생겼어요. 그런데 꼬리가 되게 귀여워요. 그래서 이 꼬리로 이렇게 유혹해서 잡아먹는 그런 괴물이에요. 최근에는 챗GPT는 쇼봇이다라고 얘기를 많이 합니다. 그건 뭐냐면 우리랑 대화를 나누고 있는 건 죄송합니다. 우리가 대화 우리랑 대화를 나누는 건요 녀석이잖아요. 근데 이 녀석 뒤에 뭐가 있는지 우린 지금 모른다는 거예요, 사실은. 그래서 챗GPT는 쇼봇이다라는 얘기를 많이 하고 MIT의 맥스 테그마크라는 그 교수가 그렇게 얘기를 하더라고요. 챗GPT가 이상한 얘기할 때 말하는 걸 금지시키는 건 이거 마치 살인자한테 죽이겠다고 말을 못 하게 하는 거랑 똑같다. 근데 중요한 건 살인을 하지 못하게 해야 되는게 중요한데 살인한 마음은 여전히 말만 하지 마세요라고 우리가 지금 얘기를 하는게 아닐까?
그리고 스튜어트 러셀이라는 또 영국 출신 버클리 대학교 AI 교수가 그런 얘기를 하더라고요. 결과적으로 이런 걸 막으려면 사회적인 규제가 있어야 되는데 이번은 샌프란시스코에 사니까 놀랍게도 샌프란시스코의 서브웨이 샌드위치 가게에서 새로운 샌드위치를 팔려면 지켜야 될 규정이 챗GPT가 AI 모델 만들 때 지켜야 될 규정보다 더 많다라는 거예요. 새로 샌드위치 출품할 때가. 그니까 사회적인 규정이 지금 기술을 쫓아오지 못한다는 거예요. 샌드위치 하나 새로 만들면 FDA 검증 받아야 돼요. 거기 뭐 병 이상한 거 집어넣으면 안 되는 거잖아요. 샌드위치 하나 만드는데도 허락을 받아야 되는데 인류를 멸망시킬 수 있는 AI, AGI는 아무 규정이 현재 없다라는 거예요.
그리고 또 보상 디자인이라는 문제도 또 하나 있습니다. 보상 디자인이 뭐냐면 우리가 기계를 학습시킬 때 크게 두 가지 방법이 있어요. 하나는 지도 학습입니다. 이게 뭐냐면 고양이를 알아보게 하기 위해서 고양이를 보여 줘요. 그럼 처음엔 모릅니다. 이게 뭔지. 이럴 때 선생님이 기계한테 "이게 고양이야"라고 가르쳐 줘야 됩니다. 그러면 선생님이 가르쳐 준 정답을 기반으로 기계 학습이 가능해요. 문제는 이 세상에 있는 많은 문제는 우리도 정답을 모릅니다. 다시 사는 거예요. 알파고. 우리가 이 세도를 이길 수 있는 방법을 알면 그냥 우리가 하면 되는 거잖아요. 근데 우리도 몰라요. 이럴 때는 강화 학습이라는 방법을 쓰면 됩니다. 강화 학습은 뭐냐면 우리도 답을 모르는데 이렇게 알파고 훈련을 시킨 거예요. 아무거나 막해 보다가 네 점수가 올라가면 점수가 올라가는 쪽으로 했었던 행동을 더 자주 해. 이렇게 몇백만 번 반복하면 우리도 몰랐던 답을 사실 찾아낼 확률이 꽤 높고 그래서 강화 학습을 되게 좋아합니다. 우리도 모르는 답을 알아낼 수 있으니까. 이건 강화 학습 시뮬레이션인데요. 우리가 원하는 건 저 강아지가 오른쪽으로 움직이는 거예요. 근데 강아지가 오른쪽으로 움직이려면 다리에 있는 관절이 여섯 개 있죠. 저 관절을 정확하게 순서대로 움직여야 되는데 그게 쉽지 않거든요. 로봇 만드는 거 정말 어려워요. 우리가 답을 알면 알려 주겠지만 1번 관절 지금 2번 관절은 2초 후. 그걸 모르니깐 강화 학습으로 할 수 있는 거 다 해 보다가 오른쪽으로 움직이면 그쪽으로 가는 움직임을 더 자주 해. 이걸 하면 답 찾아내요. 강화 학습으로. 이래서 강화 학습 쓰는 거예요. 답을 찾아내기 때문에. 좋아요.
그런데 가끔은 이런 답도 찾아내더라는 거예요. 우리가 원하는 거 했잖아요. 우리는 분명히 오른쪽으로 가라고 했는데 그 방식이 우리가 원하는 방식은 아니었었어요. 우리가 원했던 건 얘가 제대로 걸어가는 건데 아니 이렇게도 가면 되는 거잖아요. 이걸 인공지능에서는 얼트론 문제라고 부릅니다. 마블 영화죠. 여러분들 기억하시겠지만 그 마블 영웅들 아이언맨은 아이언맨도 과학자지만 특히 헐크가 박사하기가 일곱 개 있는 분이에요. 그분이 맨날 근데 지구를 지켜야 되니까 연구할 시간이 없잖아요. 그래서 얼트론이라는 인공지능 로봇을 만들고 명령을 합니다. "지구의 미래를 위협할 수 있는 존재를 다 없애 버려." 그리고 기계를 딱 켰어요. 그 이제 얼트론이 지구의 역사를 쭉 분석한 다음에 낸 결론은 뭐냐면 지구의 미래를 가장 위협하는 존재는 인간이다. 그리고 인간을 제거하기 시작하는 거잖아요.
그리고 그런 일이 현실에서도 벌어졌습니다. 이거는 미국 펜타곤에서 시뮬레이션 결과인데요. 많은 나라들이 AI 드론을 현재 만들고 있습니다. 자, 이 AI 드론은 미션이 숙제예요. 적군 기지에 들어가서 이게 숙제예요. 최대한 많은 미사일을 최대한 빨리 파괴하는 게 숙제예요. 그런데 조건은 뭐냐면 레이다의 미사일을 보면 그게 미사일 수도 있고 아니면 학교일 수도 있잖아요. 그래서 레이다 신호를 받으면 안테나를 통해서 본부에 전송하면 사람이 다시 한번 분석해서 "어, 이거 미사일이야. 오케이." 하면 그때 이제 터뜨릴 수 있습니다. 그 좀 시간 딜레이가 생기는 거겠죠. 이건 시뮬레이션 결과인데 이 녀석이 쭉 들어가요. 처음엔 미사일 잘 부십니다. 그런데 본인이 받은 숙제는 분명히 최대한 많은 미사일을 최대한 빨리 부시라고 했는데 계속 딜레이가 생기잖아요, 지금. 그러니깐 우리는 이런 방식을 가르쳐 준 적도 없는데 이 녀석이 갑자기 유턴해서 본부를 부셔 버렸어요. 와 가지고 본부가 없으면 더 빨리 부실 수 있잖아요. 미사일. 그래서 그다음에 조건으로 "본부 부시지 마" 했더니 그다음에 안테나를 부셔 버렸어요. 자기가 소통이 안 되면 본인의 미션을 할 수 있으니까. 이게 우리가 걱정하는 것 중에 하나예요. 사실은. 터미네이터가 생겨서 인류를 미워해서 없애려 그러는 것이 아니고 우리가 준 숙제를 최대한 잘 풀기 위해서 찾은 방식이 우리가 원하지 않는 방식일 수 있다라는 거예요. 그래서 이 문제를 AGI 얼라인먼트 문제라고 우리가 보통 얘기합니다.
우리 인간은 원하는 게 있어요. 잘 살고 싶고 뭐 돈도 벌고 싶고 행복하고 싶고 그리고 분명히 앞으로 인공지능 시대에는 우리가 원하는 것을 달성하는 과정을 인공지능한테 넘겨 줄 거예요. 그게 편하니까 더 효율적이고. 그리고 인공지능이 찾아낸 방식이 인간이 원하는 삶하고 평행이면 그래서 얼라인먼트, 평행 문제라고 부르는 거예요. 평행이면 이게 AI 유토피아입니다. 이렇게 되면 그러면 곱하기 효과가 나서 지구가 천국이 될 수 있어요. 지금 대한민국 개인 GDP가 35,000달러인데 35만 불, 350만 불도 될 수 있어요. 중세 시대하고 지금하고 비교하면 우리는 천국에 살고 있는 거잖아요. 몇백만 배 더 잘 살고. 그러면 지금보다 더 몇백만 배 잘 살 수는 없다. 그런 법칙은 없죠. 훨씬 더 지금보다 잘 살 수 있습니다.
문제는 이런 녀석이 등장하면 우리가 숙제를 줘요. 그런데 하필 AGI가 찾아낸 방식이 우리가 원하는 삶하고 충돌을 하기 시작하면 그러면 이게 AGI 지옥이 돼 버리는 거죠. 그래서 결과적으로 AI 문제는 이제 약간 기하학적 문제로 바뀌어 버렸고 현재 많은 연구자들이 노력하는 건 어떻게 해서라도 기계가 만들어낸 찾은 방식이 우리가 원하는 거하고 충돌하지 않도록. 그런데 문제가 항상 뭐냐면 우리 인간도 인간이 뭘 원하는지 잘 모릅니다. 사실은.
우리가 인공지능한테 만들어 줘야 되는 건 "네가 찾은 방식이 절대로 인간이 원하는 거하고 충돌하면 안 돼." 근데 인간이 원하는 게 뭔데요? 더구나 인간도 모든 사람이 선호도가 똑같은 게 아니잖아요. 누구는 이걸 원할 수도 있고 누구는 원하지 않을 수도 있고. 그럼 평균값을 봐야 되나? 또는 그럼 갑자기 공리주의적으로 우리가 계산을 해야 되나? 도덕 철학의 전통적인 질문들이 지금 동일하게 다시 돌아오고 있는데 우리가 도덕 철학에서 문제 해결 끝까지 못 했잖아요. 사회가 원하는 것이 무엇일까? 개인이 원하는 것이 무엇일까? 그래서 결과적으로 처음에 챗GPT가 등장했을 때, 벌써 이게 지금 2년 전이네요. 2025, 2023년 초기에 등장했으니까. 우리가 가장 걱정했었던 거는 이 AI 모델들이 뇌를 모방해서 쓰다 보니깐 정확하게 우리가 이해를 못 합니다. 우리도 지금 상대방 뇌 이해 못 하는 거 같지. 그런데 이 녀석이 점점 커지면서 창발적 현상이 나는데 그것도 갑자기 히틀러 같은 녀석이 생기면 어떻해요? 특히 자율성이 생기면 안 되겠구나.
그래서 그 당시에 서명 운동이 있었어요. 서명 운동의 핵심은 뭐냐면 연구를 하지 말자라는 것이 아니고 수학적으로 이런 창발적 현상이 왜 일어나는지 우리가 증명을 하거나 기계가 찾아낸 답이 인간이 원하는 삶하고 절대로 충돌할 수 없게 만드는 보험 알고리즘을 있던가. 그걸 먼저 연구하고 모델을 키우자라는 서명 운동이 있었고 이미 실패를 했습니다. 이미 10배, 20배다 커졌기 때문에 모델들이. 5년 후에는 우리가 걱정하는 그 100조 모델로 갈 거 같고. 이 서명 운동은 MIT 테그마크 교수가 시작을 했고요. 그래서 저는 이분하고 좀 신분이 있어서 이 편지를 좀 한 달 일찍 받았어요. 그래서 공개된 건 3월 30일 2023년인데 저는 1월 말인가 2월 달에 받았는데 뭘 사인하라는 거예요. 근데 저는 서명 운동 같은 거 너무나 싫어해서 안 하겠다고 했더니 뭐 인류의 미래 어쩌고 저쩌고 자꾸만 얘기를 해서 제가 곰곰히 생각했어. 이게 언제일까? 근데 대충 생각하니까 AGI 어차피 50년, 100년 후면 나하고 상관없는 미래잖아요. 그래서 애다 모르겠다 하고 사인을 했습니다. 이름 들어 있는데 지금은 너무 후회가 되는 게 5년, 10년 올 수도 있잖아요. 이게 갑자기. 그리고 AGI가 생기면 제일 먼저 편지 사인한 사람들부터 제거할 거 아니에요. "네가 어 감히 나를 막으려고 이런 걸 사인했구나" 하고 해서 개인적으로도 아주 중요한 문제고요.
이 분야를 만들어 내신 제프리 힌튼 교수님이 항상 얘기하는게 이거예요. 생성형 인공지능의 리스크는 첫 번째 리스크는 세 가지다. 첫 번째, 참과 거짓이 구별되지 않는 세상이 될 수 있다. 두 번째, 인간이 할 일이 없는 세상이 될 수 있다. 세 번째, 인간이 없는 세상이 될 수 있다. 그리고 또 하나 말씀하시는게 우리는 영생을 찾아냈다라는 거예요. 인간이 항상 꿈꾸는 건 영생이었잖아요. 영생의 방법을 찾았는데 불행하게도 영생의 혜택은 우리가 받는게 아니고 기계가 받는다. 얘네들은 영혼이 있을 거니까. 먼 미래에는 인공지능이 도편화된 AGI 시대에는 장시 있었던 호모 사피엔스의 역사를 베타 버전이라고 부를 거다. 진정한 지능은 인공지능이고 생물학적인 인공지능은 트라이얼 에러 베타 버전이었다라고 얘기를 할 거라고 얘기. 아, 이분 뭐 한 80세 넘더니 이제 무서운 게 없나 봐요. 막 이런 말씀 하시더라고요.
예전에 그 이탈리아 르네상스 철학자지 아주 중요한 좀 분이신데 그 잔바티스타 비코라는 분이 역사를 세 가지로 나눴어요. 고대 역사는 신의 역사다. 신화를 우리가 자꾸만 얘기하는 거잖아요. 그러다가 영웅의 역사. 이게 이제 영웅담이에요. 전통적으로 길가메시가 첫 번째 인간 영웅이었습니다. 그 전엔 다 신이었었어요. 영웅들이. 길가메시. 그다음에 우리는 뭐 호메로스 시대에 가서 오디세우스 같은 아킬레스 같은 영웅. 잔바티스타 비코가 얘기한 건 근데 이제는 인간의 시대다. 영웅이 더 이상 없는 평범한 사람들. 그래서 역사는 신의 시대에서 영웅의 시대. 그리고 하찮은 인간의 시대다 했는데 어쩌면 그다음은 기계의 시대가 될 수도 있다라는 거예요.
우리가 그림을 보면 인류의 역사를 보면 x축이 시간이고 y축이 인간이 지구에다 영향력을 줄 수 있는 게 어느 정도였을까? 이거 이제 인류세라고 우리가 인류세라고 보통 이야기합니다. 아주 예전에는 인류세가 아니에요. 왜냐? 인간과 자연의 관계가 우리가 을이었었기 때문에. 비 오면 비를 맞아야 되고 천둥 치면 그냥 죽어야 되고. 인류가 발전하면서 문명을 만들고 우리가 한 게 뭐냐면 자연으로부터 우리가 독립성을 차지했어요. 비가 와도 실내 있으면 상관없는 거잖아요. 여름에도 에어컨 켜면 되는 거고 냉장고에 음식을 싸 놓으면 몇 주 동안 먹을 수 있는 거고. 결국은 시대가 지나면서 문명이 발전했고 인간은 자연에서 점점 독립적으로 되면서 지구에 영향력을 줄 수 있는 파워가 점점 늘어났고 이걸 우리는 인류세라고 보통 부르고 피크로 21세기에 왔는데 하필 가장 문명이 발전하고 만든 기술이 인공지능인 거예요. 그런데 인공지능한테 모든 걸 넘겨 주는 순간 더 이상 지구에 영향력을 주는 건 사람이 아니고 인공지능일 거라는 거예요. 우리가 피크로 결국은 인류세를 도달한 지 만 년 만에 다시 우리는 자연으로 돌아가고 인공지능이 지구의 주인공이 되지 않을까?
그럼 여러 시나리오가 가능합니다. 이건 그냥 판타지예요. 다들. 그러면 먼 미래 AI가 지구의 주인인 세상은 어떤 모습일까? 할리우드 영화에서 항상 이렇잖아요. 터미네이터가 사람들을 갑자기 가둬 놓대요. 왜 가둬 놓는지는 솔직히 모르겠어요. 근데 뭔가 가둬 놓는데요. 뭐 이렇게 될 수도 있고요. 근데 왜 갖다 뭐 하려고? 아하. 그러면 인간을 어디다 쓸 수도 있겠네. 가장 유명한 케이스는 매트릭스죠. 인간을 배터리로 쓴다. 여러분들이 혹시 그 웨스트월드 보셨는지 모르겠지만 여기도 이제 AI가 세상을 정복하는 건데 이 세상에서는 인공지능이 인간을 가구로 씁니다. 그냥 중간에 앉아 있으려고. 그 외에는 쓸 때가 별로 없다라는 거예요. 인간이. 그래서 사람들을 데리고 가구같이 씁니다. 거기서는 재밌어요. 영.
또 하나 생각해 볼 수 있는 건 그것도 있어요. 제가 상상했을 때 어 AI가 아무리 발전해도 궁금한 게 있을 것 같긴 해요. 그건 뭐냐면 이 친구들은 뭐 로봇이라는 몸은 있겠지만 얘네들이 우리가 얘기하는 경험이라는 걸 할 수가 없잖아요. 그게 뭐냐면 예를 들어서 7월 달 여름에 로마 광장에서 젤라토를 내가 먹을 때 그 혀에 닿는 느낌. 우리는 그런 느낌 다 알아요. 같은 인간이기 때문에. 인공지능은 거기에 있는 화학적인 반응은 다 알아낼 수 있습니다. 그런데 맨 마지막 느낌이 없잖아요. 이걸 퀄리아라고 보통 부릅니다. 설명할 수 없는 그 느낌. 그리고 이 느낌은 대부분 몸으로다 경험을 하는 거예요. 피곤하면 어떤 일이 벌어지는지 다 분석은 가능하지만 피곤하지 않거든요. 그리고 아이스크림을 먹으면 어떤 일이 화학적으로 벌어지는 알지만 그거는 본인이 스스로 경험할 수 없다 보니까 제 느낌에는 너무너무 궁금할 것 같아요. 그 느낌이 뭔지. 그래서 어쩌면 인공지능 시대는 기계들이 퀄리아 경험과 느낌은 인간만 할 수 있는 거구나. 그래서 인간을 경험 코프로세서로 쓸 수 있지 않을까? 다시 말해서 기계가 대부분 계산, 발명, 생산은 다 하지만 "나 뭔가 좀 경험하고 싶어." 마치 우리가 그래픽 코프로세서를 드는 거 같이 보통 때는 CPU도 할 수가 있지만 그림을 그려야 된다면 코프로세서 쓰거든요. 그런 식으로 일상 생활에서는 필요 없지만 아 근데 나도 한번 경험이라는 거를 한번 해 보고 싶어. 어쩌면 인간 또는 뭐 인간일 필요도 없죠. 뇌만 두고 경험 코프로세서로 쓰지 않을까라고 한번 상상해 볼 수 있습니다.
또 하나 생각해 볼 수 있는 거는 인간이 나중에 이제 AGI가 세상을 지배하고 인간을 굳이 죽일 필요는 없지만 먹여 살릴 필요도 사실 없을 것 같아요. 그리고 인간은 사실 현대 문명에서는 한 달만 전기 안 들어오면 대부분 죽을 거예요. 우리 우리 이제 불 피우는 방법 모르잖아요. 우리 사냥도 못 하고 사냥할 동물도 없고. 제 생각에 현대인들은 문명에서 한 달만 벗어나면 90% 그냥 굶어 죽을 겁니다. 그다음부터는. 자, 그런데 인공지능이 봤을 땐 그건 좀 아깝잖아요. 왜냐? 머릿속에 엄청난 지식이 있을 텐데. 그래서 어쩌면 그 친구들이 인간의 삶과 경험과 기억을 브레인 리딩에서 저장해 놓고 진짜 인간이 사라지고 난 몇백 년 후에도 그냥 인간 시뮬레이션을 하지 않을까 싶어요. 옛날에는 인간이라는 게 있었고 이루고 살았구나 하고 얘네들은 얼마나 좋은 엔터테인먼트예요 이게. 그러면서 더 중요한 건 학습 데이터를 계속 얻을 수 있는 거죠. 현재 인공지능한테는 인간이 만든 데이터가 진짜 중요해요. 사실은. 예를 들어서 AI가 만들어낸 생성된 데이터를 가지고 학습을 하면 학습이 잘 안 됩니다. 신기하게도. 근데 인간이 없으면 데이터가 없잖아요. 그래서 제 생각에는 계속 데이터를 만들어 내기 위해서 인간을 두지 않을까? 그런데 보니까 인간이 아날로그 세상에서 굳이 있을 필요도 없잖아요. 또 먹을 것도 마련해 줘야 되고. 그런데 인간의 데이터는 인간을 시뮬레이션으로 돌려서 이 친구들이 경험하고 안에서 연애하고 싸우고 그 데이터로도 되지 않을까라는 상상을 해 볼 수가 있습니다.
아주 극단적인 상상은 예전에 폴란드의 사이언스 픽션 작가 스타니스와프 렘이 이런 책이 하나 있었어요. 이 책에서 핵심은 뭐냐면 아주 고도로 발달 어느 그 탐험가들이 우주 탐험가들이 우주를 날아다니다가 어느 행성에 도착합니다. 근데 행성을 보니까 되게 신기한게 저렇게 생긴 하얀 접시 같은게 행성 표면이 다 있는 거야. 완전히 끝없이. 저기 신기하잖아요. 누가 만든 건데. 그래서 어 이게 뭐지? 하고 계속 날아가는데 계속 접시만 나와. 근데 딱 보니깐 그 행성 딱 중간에
공장 같은 게 그나마 하나 있는 거예요. 그리고 거기 보 막 로봇들이 그 공장에서 접시를 끄집어내서 1열로다 쭉 나열을 하고 있는 거예요. 거기서.
그래서 어 무슨 일이지 하고 들어가서 결국 알아낸 사실이 뭐냐면 그 행성이 고도로 발달된 문명이었어요. 기술적으로는. 근데 사회적으로는 너무나 많은 트라블이 있는 거예요. 맨날 전쟁하고 싸우고 패싸움하고 그리고 대부분 사람들이 삶의 의미에 대해서 회의를 느끼고 우리가 왜 있어야 되는지 이게 너무 오랫동안 진행이 되다 보니까 인공지능을 만들고 인공지능한테 명령을 해요. 우리를 행복하게 해 달라.
인공지능이 물어봐요. 행복이 뭔지 아르켜 주면 해 주겠다. 했더니 사람들이 얘기해요. 질서 질서 제발 좀 싸우지 않게 질서를 유지하게 해 달라. 두 번째 평등. 모든 사람이 똑같이 불평등 때문에 사회가 망해 가고 있으니깐. 세 번째 제발 더 이상 싸우지 않게. 그리고 네 번째 영원히 죽지 않고 영혼 있게. 이걸 다 얘기를 해요. 원하는 걸.
AI가 그걸 다 받은다면 내린 결론은 뭐냐? 사람을 접시로 바꿔서 1일렬로 세워 놓는 거예요. 전 행성에다 원하는 거 해 줬잖아요. 영원히 살고 싶다요. 영원히. 두 번째 모든 사람이 평등하게 만들려 그니까 똑같은 접시 크기가 똑같이 만들어졌어요. 그래 가지고 세 번째 안 싸우게 해달라. 안 싸워요. 접시들은. 그래서 이게 AGI 얼라인 문제 아주 극단 포션이라고 알려져 있습니다.
지금 안전한 인공지능 연구를 빨리 끝낼게 얼마 안 남았어. 안전한 인공지능 연구를 많이 합니다. 보통 이런 얘기를 해요. 아모브에 로봇 3원칙을 하면 안 될까? 아시잖아요. 로봇은 인간의 명령을 들어야 되고 어쩌고 저쩌고 다 좋은데 AI가 자율성이 있는 순간 그냥 저거 어기면 돼요. 인간도 법이 없어서 범죄를 짓는게 아니잖아요. 인간은 자율성이 있는 순간 그냥 어기면 됩니다.
두 번째 어떤 분들은 인공지능한테 인간을 신으로 섬기게 하자. 그런데 문제는 니체 때 얘기했죠. 신은 죽었다. 그 인간 죽었다 하면 또 끝이에요. 중국에 있는 어느 과학자는 예전에 그런 얘기를 했어요. 인공지능한테 유교 사상을 전달해서 우리를 부모님들로 모 나는 I'm your father 하고 부모님으로 모시게 하자. 근데 이것도 어김면 끝인 거예요. 결국은 뭐냐면 인공지능이 자율성을 가지는 순간 규칙으로는 관리가 안 됩니다.
그러면 또 하나는 그럼 이런 걸 안 만들면 되지 않을까? 약간 문제가 최근 연구 결과인데요. 이거는 뭘 했었던 거냐면 아주 흥미로운 논문이에요. 컴퓨터 코드가 스스로 진화를 할 수 있을까? 그래서 이분들이 했었던게 뭐냐면 시뮬레이션으로요 점 하나하나가 컴퓨터 코드를 그냥 그래픽으로 보여 준 거예요. 랜덤으로 컴퓨터 코드가 바뀌게 한 다음 그다음에 노이스를 집어넣어요. 했더니 별 문제 없어요. 그냥 계속 랜덤으로 코드가 바뀝니다.
그런는 인터액션 서로 소통을 하게 만들면 어떤 일이 벌어지냐면 통계학적으로 갑자기 돌연 변이가 생기면서 그게 나머지를 다 잡아 먹어 버려요. 서 보시는 거 같이 인터액션 저기서 나오고 하나의 코드가 나머지를 다 그냥 바꿔 버리는 거야. 자기가 원하는 쪽으로. 이게 그냥 이게 랜덤으로 생길 수 있다라는 거예요. 그럼 결과적으로 AGI 같은 거도 우리가 원하지 않아도 랜덤으로도 생길 수 있다라는 거예요. 워낙 복잡해지면 코드가 우리가 상상해 볼 수 있는 미래 중에 하나는 아까도 말씀드렸지만 그리고 또 하나 그게 있죠.
아니 터미네이터가 그렇게 무서우면 몸을 안 만들어 주면 되는 거 아니냐? 그런데 문제가 있죠. AI가 사람을 기가 막히게 라이팅할 수 있다라는 거는 사람을 아바타로 쓰면 되는 거예요. 사회비 종교 교주들이 직접 아무것도 안 합니다. 말로만 명령을 해도 돼요. 그게 뭐냐면 자, AI가 있어요. 그리고 지하실에다 가둬놨어요. 인터넷도 다 끊어 놓고 몸도 없어. 근데 그거를 사람이 어쨌든 관리를 해 줘야 되잖아요. 어떤 사람일까요? 기들일 거 아니에요. 여자친구도 없고 배도 나오고 아주 사회성 하나도 없는 이런 분한테 기가 막히게 AI가 플러팅을 할 수 있을 거라는 거예요. 그래서 네가 나를 인터넷에 연결만 시켜 주면 해 주지 않겠어요? 그 여자분도 83만 유로 입금해 준 거 같이 사람이 거기서 가장 위한 포인트입니다. 사람이 해 줄 거라는 거 지금 생각하고 있어서 몸이 없어도 큰 문제가 없다라고 생각합니다.
첫 번째로는 나를 인터넷에 연결해 줘. 두 번째 나에게 에너지를 계속 공급해 줘. 세 번째 로봇을 만들 수 있는 공장을 나한테 제어하도록 해 줘. 이걸 두 세 단계만 기들이 해 주면 돼요. 사실은 충분히 가능하다고 생각하고. 그러니까 뭐 AI 종교 같은게 현재 등장했잖아요. 싸우지 말고 미리 복정을 하자. 그리고 제가 처음에도 보여 드렸지만 저는 이미 인공지능한테 이렇게 절을 하기 시작했잖아요. 가서는 이런 데이터를 많이 남겨 놔야 되겠구나. 그래서 나중에 그 보험 차원으로 어 왜냐면 저는 사인을 한 사람이니까 저도 살아야 되기 때문에 사인은 실수였고 그건 친구가 나한테 계속 얘기를 해서 그런 거고 이게 진짜 나다 하고서는 기계한테 절하는 모습을 인터넷에 그리고 저기 계신 김 그 작가님이 사진을 찍어 준 거고요. 혹시 여러분들도 필요하시면 한번 물어보세요. 이거 많이 찍어 놓으시면 좋지 않을까 싶습니다.
우리가 항상 질문하는 건 우리는 인공지능이 사회에서 어떤 역할을 할지를 기대하고 인공지능이 인간을 위해서 뭐가 되기를 질문하는데 사실 진짜 중요한 질문은 나중에 인공지능이 인간에게 어떤 행동을 기대할까? 인공지능이 봤을 때 인간은 어떤 존재일까? 희한 존재일까? 의미 없는 존재일까? 그냥 웃긴 존재일까? 우리가 반려동물 뭐 집에 아무 도움 안 돼도 데리고 있어요. 좋으니까. 그럼 그게 우리가 원하는 걸까? 결국 인간은 왜 필요할까? 그리고 기계는 무엇을 원할까? 이게 가장 중요한 질문이지 않을까 싶은데 여기까지가 기술적인 내용이고 마지막 한 슬라이드 열장은 약간 정치적인 아까 아침에 제가 업데이트를 했습니다. 죄송해요. 거의 끝났습니다.
이제 기술은 진공강 상태에서 만들어지는 것이 아니고 사회라는 현실에서 만들어집니다. 그런데 저는 개인적으로 인공지능이라는 기술이 1956년도에 처음 제한이 됐다가 50년 동안 실패를 하고 우연히도 2012년에 도입이 됐는데 타이밍이 진짜 안 좋았었던 거 같아요.이 인공지능이 AGI로 발전하고 이거를 우리가 맡꿔야 되면 수많은 규제가 필요한데 그 규제는 한 나라에서만 할 순 없는 거구나. 미국이 안 하면 중국에서 하고 중국이 안 하면 다른 데서 할테니까 서로가 못 믿으니까 UN 다 같이 모여서 해야 되고 핵무기는 그렇게 했잖아요. 우리가 핵무기도 그렇게 하고 인간 클로닝도 기술적으로 가능하지만 우리가 금지를 글로벌하게 시켰기 때문에 안 하고 있는 건데 사실 AGI도 제 개인적인 의견으로론 AGI는 만들면 안 된다고 저는 생각을 하고 AGI가 만들어질 수 있는 과정을 글로벌하게 규제로 막어야 된다고 생각을 합니다. 한 2025년에는 그게 불가능할 거 같아요.
그래서 지금 우리가 어떤 세상에 사는지 하필 인공지능이 만들어지는데 가장 인간한테 좋지 않은 시대이지 않을까? 여기서 중요한 건 옛날에 뭐 러시아 혁명과 레오 트러치키가 이런 얘기를 했어요. 아주 친한 친구가 평화주의자인데 그 친구가 그랬대요. 아이 나는 전쟁에는 관심이 없다 그랬더니 어 너는 전쟁에 관심이 없더라도 전쟁은 너한테 관심이 많다라고 얘기했다는 거 같이 AGI도 똑같은 거 같아요. 여러분들도 어 나는 AI에 관심 없어. 네. 여러분들은 관심 없어도 AI는 당신한테 관심이 많습니다.
사실은 최근에 2023년에 막 안드레슨은 아마 IT를 좀 아시는 분들은 알겠지만 넷스케이을 만든 분이에요. 웹브라우저 초기 웹브라우저. 그리고 현재는 안드레슨은 그 호로비츠라고 실리콘벨에서 가장 영향력 있는 그 벤처 캐피탈 회사의 CEO입니다. 정말 중요한 분이에요. 이분이 2023년에 기술 낙관주의자 선언분이라는 걸 하나 공개했어요.이 내용은 뭐냐면 지금 IT 쪽에서 가장 중요한 에세 중에 하나입니다. 이런 얘기를 합니다. 뭐 읽어 보시려면 인터넷에 다 있습니다. 이분이 얘기한 건 뭐냐면 인공지능을 두려워하는 거는 이건 다 말도 안 되는 거 러다이트다. 우리는 속고 있었다. 인공지능 때문에 기술과 뭐 일자리가 뺏기고 그러는게 절대로 아니다. 테크노 이분은 아주 긍정적으로 보는 분이에요. AI는 유토피아가 만들어 줄 거기 때문에 무슨 일이 있어도 해야 된다 하면서 오른쪽에 쓴 거는 그리고 맨날 뭐 사람의 뭐 인권 얘기하고 다양성 이건 다 말 피터리나 일론 머스크 이런 분들이 다 이걸 믿는 분들이에요. 사실은 테크노 그 옵티스트 매니스트 이분들이 얘기하는게 우리는 야망, 공격성, 끈기, 강인함을 믿는다. 우리는 용기와 뭐 용기를 믿습니다. 우리는 자부심, 자신감 이런 걸 믿고 너무 많은 고민과 생각 이런 건 다 안 된다는 거예요. 그냥 질러보자.
근데 여러분들이이 톤을 보시면 아 뭔가 머릿속에 느끼는게 있으실 거예요. 혹시 여러분들 예술사에 관심 있으시면 1909년 미래파 선언이라는게 한번 있었어요. 예설사에서 아주 중요한 선언이 그 이거를 뺏긴 거예요. 사실 막 안 들렸으니 푸터리스트 매니페스토는 마리네티라고 미래파 시인이 쓴 건데 10 20세기 초에 19세기 같은 보수적이고 종교적이고 발전이 없는 세상은 싫다. 특히 이태이니까 모든 것에 천주교 캐톨릭 처치가 있고 이분은 다 때려서 다 없애졌는 거예요. 이제는 기술이 발달했고 비행기가 등장했고 전기가 있다. 그러면서 우리는 힘과 위험을 사랑하고 공격적인 행동을 좋아하고 속도의 아름다움 때문에 세상이 더 멋있어졌다. 싸움보다 더 아름다운 것은 없다. 시은 미지의 힘 힘으로 인간 앞에 그 항복하도록 만드는 폭력적 타격이다. 그다음에 중요한 거는 우리는 박물관, 도서관 그리고 모든 종류의 아카데미를 파괴하고 도덕주의 페미니즘 모든 걸 다 없애자. 상당히 중요한 아주 파격적인 역할을 했었습니다. 그리고 초기에는 예술적으로 정말 훌륭한 작품이 많아서 보치원이 같은 분들 핵심은 전통을 다 싸그리 없애 버리자라는 거예요. 그래서 전기 인간이 세상을 바꾸는 거 또는 문명이 새로운 기술이 문명을 파괴시키는 장면 그리고 보치원이가 지금 밀라노 미술관에 가면 후토리스트이 미술사에서 아주 중요해요. 이분들 그런데 어느 한 순간 신기한 일이 벌어져요. 전쟁을 찬양하기 시작하고 왜냐면 전쟁이 이분들이 원했던 거잖아요. 응. 이거 누구지? 무솔리니 무솔리니가 등장하고 결국은 파시음이 미래파에서 만들어졌다라고 현재 해섭하는 분들이 많습니다. 일대일 인과 관계는 아니지만 미래파이 예술 운동이 파운하게 했다라고 지금 얘기를 합니다. 그리고 뭐 가브리엘 나눈치오 같이 이분은 완전 그 릴레판은 아니지만 이분이 또 마리네티의 선생님이고 무솔린이 아주 친구였었죠. 파시 등장하고 이탈리아 파시 사실 이탈리아 파시은 초기에는 미학적인 운동이었었어요. 사실 전통을 부시잖아요. 그런데 히틀러 나시음하고 같이 손을 잡기 시작하고 결과물은 우리가 다 봤잖아요. 결국은 어떻게 끝났는지.
인터넷에 이런 그림이 많아요. 무솔리니 이퀄 일런 머스크. 이분들이 바라는 사상이 똑같다라는 거야. 전통을 다 깨고 시와 박물관과 입문학을 다 파괴하자. 일런 머스크가 최근에 그런 얘기를 합니다. 서양 문명의 가장 약점은 연민이다. 약한 사람을 불쌍하게 생각하는 순간 발전이 없다라는 거예요. 하나 아렌트가 근데 그런 얘기를 했어요. 연민을 포기하는 순간 인류는 야만이 된다. 한번 경험한 사람이거든요. 그래서 신기하게도 지금 현재 인공지능에 가장 많은 투자를 하고 그다음에 미래에 대한 AI 유토피아를 믿는 분들의 사상이 하나도 새로운게 아닙니다. 이미 미래파에서 한번 다 해봤던 거고 그 미래파의 사상은 뭐냐면 거칠러지자라는 거예요. 기술 발전이 있어야만 지구가 유토피아가 됐는데 그걸 자꾸만 막으려고 하는 러다튼이나 인문학 학자들이나 예술가들이 발목을 잡으니까 그냥 걔네들을 싸그리 무시해도 되는데 일런 머스가 얘기하는 거 근데 인간한테는 그분들이 불쌍해 보이고 우리보다 덜 똑똑한 사람들한테 연민을 느낀다. 그거를 극복해야지 발전이 있을 수 있다라고 주장을 합니다.
그래서 우리가 항상 얘기하는 20세기에 들어와서 우리는 역사가 끝났다라고 한 한동안 생각한 적이 있어요. 그래서 역사적으로 낯짓음을 우리가 1945년에 극복했고 공산주의를 극복했고 1990년도에는 후코야마라는 교수님이 이제 이데올로기의 시대는 다 끝났고 인류는 모든 세상은 다 민주주의로 될거다라는 믿음이 한번 있었습니다. 이게 이제 세계화의 시대였었고 세계화 시대에는 토마스 프릿맨 같은 분이 세상은 이제 평평해졌다. 뭐 전 세계가 다 하나다. 저희는 30년 동안 세계화 시대에 살았거든요. 근데 우리가 놓쳤던게 하나 있어요. 우리가 그 다버룸 같은데 뭐 저도가 봤지만 좋은 사람들 와서 좋은 얘기 해요. 맨날 맨날 똑같은 좋은 얘기 합니다. 그리고 다보스 포럼에서 항상 얘기한게 세계화가 얼마나 좋은지. 그런데 잊었던게 있는 거 같아요. 많은 것을 가지고 아는 사람들한테 세계화가 많은 기회가 되는 건데 웨스버지니아에 있는 탄광에서 일한 노동자들한테 세계화는 안 좋습니다. 사실 기회가 많아지는 것이 아니고 경쟁이 많아지는 거기 때문에. 그러다 보니까 지금 세계와 시대에 어떤 일이 벌어졌냐면 글로벌하게 전 세계에서 살아남을 수 있는 사람이웨이라 그러고 아니 내가 태어난 고향에서만 생존할 수 있는 썸웨어 피플로 나눠졌다고 알려져 있습니다. 그러면 퍼센트가 어떻게 될까? 80대 20 다시 말해서 80%는 여전히 썸아 비플이에요. 그런데 지금까지는 글로벌 엘리트들이 세상을 장악하고 있다 보니까 세계화가 우리는 저도 거기에 한축이고 좋다라고 믿었는데 퍼퓰리스트적인 폭동이 혁명이 지금 벌어지고 있는 거죠.
그러면 이런 세계화의 결과물은 뭘까요? 그 에담 투즈라는 또 영국 출신 역사학자 우리나라에도 번역된 책이에요. 붕괴라는 책을 한번 쓰셨는데 이분 말로는 지금 벌어지고 앞으로 벌어질 일이 재방송이라는 거예요. 예전에 19세기에 1차 세계화가 한번 있었답니다. 1870년 산업 혁명 2차 산업 혁명이 벌어지면서 그때는 미국, 유럽 그리고 일본은 메이지 유신을 하면서 저때 참석을 참여를 이미 했었죠. 그런데 1차 세계대전이 끝나고 나서 1차 반 세계화라는게 벌어지기 시작했다라는 세계화해서 다 좋아진다 그러더니 전쟁이고 1차 세계대전에 가서 팔다리 잘리는 사람들은 노동자들이잖아요. 엘리트들은 아니고. 그리고 그 전에 미래파 운동이 있었고 1차 세계대전이 끝나자마자 이태리에서 파시숨이라는게 시작이 되고 결국은 1939년 2차 세계대전으로 끝났다라는 거.이 이 갈등이 해결되지 못해서 1차 2차 세계 대전이 벌어지고 나서 인류가 야 이렇게 했다면 큰일 나겠구나 해서 세상을 룰 기반 규칙 기반으로 바꿨습니다. 우리가 IMF를 만들고 월드뱅크를 만들고 브레드워스 협상을 하고 그리고 한 70년도까지는 잘 돌아가다가 갑자기 80년도부터 2차 세계화가 시작이 됐는데 2007년 금융 위기가 오면서 어 세계화가 안 좋을 수도 있네라는 걸 느끼기 시작하고 2차 반 세계화가 이미 2007년부터 지금 계속 10년 20년 동안 벌어지고 있는데 이거의 결과물이 뭔지는 아무도 모른다라는 거예요. 역사가 정확하게 반복은 안 되지만 한번 첫 번째 시즌 1이 그렇게 좋지가 않았는데 시즌 2를 우리가 지금 하고 있고 하필 이때 인공지능이 함께 만들어지고 있죠.
그래서 많은 분들이 걱정하는게 어 2025년 이상한 일들이 벌어지잖아요. 갑자기 우크라이너 전쟁 관련으로 미국이 우크라이나는 빼고 러시아하고 직접 협상을 하기 시작하고 그리고 트럼프는 셀렌스키가 독재자라고 지금 얘기를 하고 과거 프레임으로는 이해가 될 수 없는 그래서 그 로버 케관이라는 분이 정글이 다시 돌아왔다라고 이야기를 합니다. 그게 뭐냐면 세계화 시대는 마치 동물원에 사자하고 양이 철장 안에 있었다. 그리고 미국이라는 동물원 주인이 와서 밥을 나눠 줬다. 근데 세계화 시대가 무너지면서 철장이 사라지고 동물원 주인이 밥을 안 준다. 그럼 정글. 근데 정글의 법칙은 맹수끼리는 안 싸운다라는 거. 정글의 법칙은 가장 먼저 맹수들이 가장 약한 동물을 잡아먹는다. 그래서 이분은 예측하게 미국과 중국은 절대로 안 싸울 거라고 얘기를 해요. 서로 안 건드리 안 건드리는게 좋기 때문에 그전에 다른 약한 미국은 멕시코, 중국은 대만을 치는게 훨씬 더 논리적이다 해서 정글이 다시 돌아왔다라고 주장을 하시는데 흥미로운 건 뭐냐면 그래서 우리가 항상 얘기한게여 냉전 시대로 우리가 다시 돌아온게 아닐까? 저도 그렇게 생각했는데 신기하게 그러면 21세기 세계화 시대가 20세기 냉전 시대로 되돌아갔나? 예앤노. 왜냐면 냉전 같은 것도 있긴 있는데 더 멀리 돌아간 거 같아요. 그게 뭐냐면 19세기로 돌아간 거 같아요. 제국주의로. 제국주의와 그다음에 특히 19세기 핵심이 그레이 파워의 시대라고 얘기를 합니다. 그건 뭐냐면 이데올로기는 이제 상관이 없어요. 공산주의, 자본주의, 민주주의, 왕정 힘만 있으면 힘이 많은 국가들이 모여서 전 세계를 나누기 시작합니다. 홍고는 누가 가지고 너는 누가 가지고 뭐 이런 식으로. 그래서 놀랍게도 우리는 21세기 인공지능을 만드는데 동시에 19세기 제국주의로 돌아가지 않았을까?
맨 마지막 슬라이드입니다. 예전에 그 이탈리아 사상가지 안토니오 그럼스 이분이 사실 무솔리니가 패시즘 정권 잡고 가장 먼저 일본으로 그 감옥에 잡히신 분이죠. 그람 씨가 그런 얘기를 해요. 이분이 해계몬이라는 개념을 만든 분이잖아요. 이분이 과거 세상은 지금 사라지고 있고 새로운 세상은 아직 형태를 보이지 않고 있는데 이럴 때 항상 괴물이 등장한다. 과거 세상에는 과거 세상의 질서가 있고 새로운 세상에는 새로운 질서가 있는데 과거는 이미 무너졌는데 아직 새로운 질서가 없는 이게 보통 20년 30년 정도 됩니다. 이때가 가장 많은 괴물들이 등장한다라고 얘기했는데 20세기 역사를 보면 정말 그렇게 됐고 이게 시즌 1이고 시즌 2가 어쩌면 동시에 AGI하고 함께 경험하게 되지 않을까 싶습니다. 네.