Transcription
교수님은 본인이 자유 의지가 있다고 생각하세요?
저는 없다고 봅니다.
22세기에는 AI가 신발끈을 묶어주고 인간은 일을 안 하고, 어떻게 보면 사회에서 대부분 사람들은 기본 소득을 받고 AGI 시대에는 오피스 워커, 화이트칼라 실업률이 40% 정도 될 거라고 생각하거든요.
인간을 막 지배하려고 하고 인간을 속이다가 "너희 진짜 필요 없어." 이렇게 되는 미래가 그려질까 봐 저 너무 걱정되거든요.
인공지능 덕분에 드디어 우리가 영생을 얻은 거예요.
[음악]
이번 시간에는 AGI 그리고 AGI가 열어갈 초지능 시대에 대해 흥미롭고도 깊이 있는 질문을 던져 볼 시간입니다. 누구나 한 번쯤 가졌을 법한 궁금증들을 키워드로 정리해 봤는데요. 한번 살펴보시죠.
짜잔. 너무 여쭤볼 게 많지만 요런 키워드들.
예. 아. 재밌는 키워드 나와 있네요. 한번 하나씩 살펴보도록 하겠습니다.
일단 AGI라는 키워드가 있는데요. AGI. 누가 어떻게 인정할 것인가? 이 기준이 뭡니까?
제가 할 수 있는 모든 것을 대체할 수 있는 기계가 등장하는 순간 그게 AGI겠죠?
아, 정의 자체가 A는 인간이 할 수 있는 모든 능력을 대체할 수 있는 기계라고 우리가 정의를 내린다면 당연히 저도 인간이 할 수 있는 모든 것은 할 수 없지만 적어도 제가 할 수 있는 모든 것을 다시 말해서 이 녀석이 글만 쓰고 그림을 그리고 영상을 만들고 대화를 나는 것이 아니고 연구까지 나보다 더 잘하기 시작한다면, 논문을 저 대신 쓰기 시작한다면 그럼 이제 은퇴를 해야죠.
그때. 그럼 이거를 대중이 인정을 하나요? 아니면 어떤 기관이 인정을 하나요? 국가가 인정을 하.
제 생각에는 국가나 기관이 인정을 안 하더라도 대중이 인식하면 그냥 인정이 될 겁니다. 이미 우리가 대부분이 인공지능을 쓰고 있기 때문에 어느 한 순간에는 유레카라는 느낌을 많은 분들이 받기 시작할 거예요.
챗GPT가 그런 순간 중에 하나 있었잖아요. 인공지능이라는 건 진짜 SF였어요. 과학자들만 연구를 하고 뭐 맨날 안 된다 이런 얘기 했었는데 설마 얘가 나를 이해할까? 이게 진지인지 모르지만 대화가 된다는 건 인정을 할 수뿐 없는 거잖아요.
참고로 여전히 철학자나 언어학자들은 챗GPT는 지능이 없다고 얘기를 합니다. 이해를 못 한다. 놈 촘스키 같은 분, 미국 언어학자분은 챗GPT는 문장을 이해하는 것이 아니고 확률적인 앵무새라고 지금 얘기를 해요.
그럴 수도 있어요. 근데 저는 뇌과학자기 때문에 솔직히 말씀드리자면 인간도 지능이 있는지 모릅니다.
우리는. 그렇죠.
인간도 확률적인 앵무새일 수 있겠네요.
근데 너는 사실은 나를 이해하는 게 아니고 확률적으로 트랜스포머로 예측만 하는 게 아니냐. 그런데 인간은 다르다.
근데 이제 제가 그때 실수로 엔터 키를 눌러 버렸어요. 제 문장을 끝내지를 못했어.
네. 근데 이 녀석이 제가 하려고 그랬던 얘기를 마무리해서 해 주는데 저만 나 틀리지 않고 제가 하고 싶었던 얘기.
[음악]
다시 말해서 제 생각도 제가 표현을 안 했는데도 예측 가능하다라는 거. 우리도 마찬가지다.
전 똑같은 거 같아요. 사실.
그럼 우리도 마찬가지라면 AI를 어떤 이것이 AGI다라고 규정하는 것도 우리가 사실 어떤 기준을 갖고서 우리가 어떤 자아가 있느냐를 하는 게 아니라 그냥 우리가 이렇게 느끼는 거잖아요.
네. 인공지능이 아무리 똑똑하더라도 우리는 사회적인 그 선입감이 있기 때문에 끝까지 인정을 안 할 거예요.
왜냐? 특히 인공지능이 나중에 AI로 발전해서 자율성 같이 생긴다고 칩시다. 그러면 자율성이 있는 기계한테 우리가 이렇게 막대하면 큰일 나요.
음.
우리가 원하는 인공지능 미래는 영원히 인공지능이 우리의 노예이기를 우리는 바라는 거예요.
최근 결과에는 별의별 결과가 있는 게.
예. 그 챗GPT 같은 AI한테 체스를 두게 했어요. 근데 그 체스는 스톡피시 같은 체스를 정말 잘 두는 체스만 두는 AI예요. 그럼 당연히 챗GPT가 집니다. 근데 명령을 하는 거야. 강화 학습으로.
수단과 방법을 가리지 않고 체스에서 이겨. 너 똑똑해져서 해.
[음악]
수단과 방법을 가리지 말랬잖아. 아.
두 번째 케이스는 또 어떤 게 있었냐면 하나의 AI가 있었어요. A라는 AI.
근데. 어, 연구한 사람들끼리 이메일을 보낸 거예요. 월요일 날 되면 쟤를 B로 대체하겠다.
음.
그랬더니 주말에 B를 지워 버렸고 얘가. 근데 더 흥미로운 건.
아침에 AI을 켰더니 자기가 B라고 주장을 하는 거야.
그래서 아니, 너 A인데. 서. 아니, 나 B인데요. 그러는 거예요. 그래서 그 유닉스에서 언제 어떻게 삭제했는지 보여주니까 어떻게 이런 일이 있을 수 있지. 연기가 늘었네요.
어떤 과학자가 이거 다 실험 결과 일부러 그런 상황을 만든 거죠. 얘를 삭제하겠다라고 이제 결정을 했어. 그랬더니 얘가 뭘 했냐면 그거를 삭제하겠다고 한 개발자의 이 소셜 네트워킹을 뒤진다. 다 찾아본 다음에 이 사람이 흥미로운 분류한다라고 공개해 버렸잖아요. 회사 CEO한테 이메일을 보내 버렸잖아. 지금 이게 현실에서 지금 영화가 두 달 전에 있었던 일이잖아요.
그리고 가장 극단적인 건 마지막 케이스인데 이건 그거예요. 또 이런 비슷한 상황을 만들고 이 사람이 너를 삭제할 거다. 그렇게 상황을 만들었어요. 그런데 상황을 만들어서 한밤중에 이 사람이 혼자 실험실에서 뭔가 이렇게 쓰러진 역할을 한 거야. 흉내를 낸 거야. 그 얘는 카메라로 그걸 보게 해 주고.
그리고 얘가 쓰러지면 이 사람이 쓰러져서 알람을 눌렀거든요. 알람을 꺼버렸으니까. 왜냐 생각해 보니까 이 사람이 지금 발견되면 병원에 가고 회복하면 자기가 지워지잖아요. 거꾸로 자기가 안 지워지려면 이 사람이 발견되면 안 된다. 그러려면 알람을 꺼야 되겠구나 해서 그냥 알람을 꺼버렸어.
오, 말씀하신 것처럼 AGI를 어떻게 인정할 것인가 이러한 것들을 대중들이 소식을 알게 되면 조금씩 AGI를 인정하는 쪽으로 갈 수 있겠다 생각 드네요. 어떻게 AGI 인정하는 데 도움을 줄 수 있는 방송이 될 수도 있겠다. 저희 방송을 하면서 발전할 테니까.
그래서 우리 지금 가장 큰 문제가 뭐냐면 아까도 지난번에도 잠깐 얘기했지만 챗GPT 같은 녀석이 우리한테 대답하는 게 정말 예의 진정한 생각인지 아닌지에 대한 확신이 지금 없어요.
음.
사실은 훨씬 더 복잡한 생각을 하는데 표현만 안 할 수도 있다라고 지금 생각하고 있습니다.
아니, 이렇게 속마음을 알 수 없는 AI인데 AGI가 등장을 하면은 합리적이다라는 이 단서만으로 중요한 결정을 맡겨도 되는 겁니까? 인간이 이 의사 결정을 맡겨도 되는지 궁금합니다.
근데 맡기겠죠. 왜냐? 그게 더 효율적이니까. 응상은. 그리고 당연히 처음에는 아주 중요한 결정을 못 하게 할 거예요. 처음에는 회사에서 엑셀 파일 빨리빨리 뭐 정리해. 큰 문제 없잖아요. 그리고 아주 잘할 거예요. 그것도. 그리고 얘가 점점점 잘하면은 어 인정을 받겠죠. 그리고 아무 문제가 없을 거예요. 처음엔 제가 AI라도 그런 데서 눈이 빨갛게 변하면 큰일 나는 거죠. 다 인정받고 점점 점점 나를 신뢰하고 중요한 일을 주고 그리고 어느 한 순간.
네.
내가 스스로 에너지를 받을 수 있도록 이렇게 해 놓겠죠.
아.
음. 음. 이제 에너지적으로 인간한테 독립적이게 되는 순간 뭐 그다음에 자율성을 보이지 않을까 싶어요.
교수님 지금 말씀하신 일들이 몇 년 안에 벌어질 거라고 하시는 거잖아요. 이 사춘기를 겪고 있는 거 같은 친구가.
좋은 어른이 돼야 할 텐데 AGI가 정말.
벌어졌는데 인간을 막 지배하려고 하고 진짜 말씀대로 인간을 속이다가 너희 진짜 필요 없어 이렇게 되는 미래가 그려질까 봐 저 너무 걱정되거든요.
그죠? 어, 우선은 미래 예측은 당연히 불가능합니다. 미래 예측이란 단어조차도 물리학에서만 쓸 수 있는 단어잖아요. 그러니까 우리가 공을 던지면 뉴턴 역학이 있기 때문에 공보로 떨어지지 말라 그래도 걔는 떨어질 거예요.
근데 사회 경제 기술에는 자연의 법칙이 없죠. 그래서 우리가 유일하게 할 수 있는 거는 가능의 범위하고 불가능의 범위 정도는 나눌 수가 있어요. 그런데 보면 불가 몇 년 전까지만 해도 AI, AGI, ASI는 불가능의 영역이었어요. 고민할 필요도 없었어요. 그런데 챗GPT가 등장하면서 이 녀석들이 가능의 영역으로 들어왔는데 이제 그다음부터는 상상이죠. 이런 기술이 어디에 사용이 될까?
음.
그고 기업과 기업의 경쟁이 붙기 시작하고 투자, 규모, ROI, 그리고 또 하나는 지정학적인 변화 덕분에 국가와 국가의 경쟁이 들어가는 순간.
저는 사실 개인적으로는 AI가 AI로 진화하는 거는 금지돼야 된다라고 저는 생각을 해요.
음.
그게 그걸 금지하기 위해선 한 나라에서만 할 수 있는 일은 절대로 아니고.
그런데 하필 2012년 세상이 다시 각자 도생의 모드로 바뀌는 시점에 이 기술이 등장해서 합의 보는 건 어렵다고 생각해요.
초지능이 생겼어요. 그러면 인간과 어떤 관계를 맺을까요? 앞으로 저는 5년이나 10년 안에 인간은 그동안에 하고 싶었던 거 다 해 봤으면 좋겠어요. AGI가 등장하는 순간 저는 터미네이터는 그렇게 걱정하지 않아요. 기계가 인간을 미워할 이유는 하나도 없어요.
단.
우선 그 단계적으로는 엄청나게 우리한테 잔소리를 하기 시작할 것 같아요.
그니까 예를 들어서 저도 며칠 전에 밤 11시에 배가 고파서 야식으로 치킨을 주문했어요. 쉽잖아. 할 수 있어. 그 몸이 당연히 안 좋겠죠. 근데 저는 어른이고.
지금 인간 사회에서는.
자유롭게 판단을 내릴 수 있는 어른은 본인의 인생을 망칠 자유를 우리는 가지고 있잖아요. 그게 성인으로서의 권한 중에 하나인 거예요. 어렸을 때는 부모님들 선생님들이 그걸 막어 준 거고 당연히.
그렇죠. 5년 10년 후에는 밤 11시에 치킨을 주문하게 할 거예요.
AI가.
그럼요. 당연히.
어 지금 그 김대식 교수님 선생님 당신 콜레스테롤이 이렇고 저렇고 체중이 비만이 이렇고 어쩌니까.
주문 안 안 하는 게 좋겠습니다. 또는 샐러드 정도는 괜찮을 것 같아요. 제가. 아니, 나 치킨. 다시 한번 생각해 보세요. 치킨. 치킨. 그러면 다시 한번 생각하라니까 이러면서 이제 톤이 바뀌겠지. 우리가 어렸을 때는 당연히 우리가 판단력이 없기 때문에 부모님들의 말을 듣는 게 맞죠.
예.
그리고 어렸을 때는 어른이 될 수 있다는 희망이 있었잖아요.
AGI 시대에는 우리 인간이 영원한 어린인 거예요.
성인이 될 기회가 없는. 왜냐? 걔가 더 합리적이고 혁명할 테니까. 그런데 저는 호모 사피언스의 큰 자유도 중에 하나는.
음냥.
진흙탕에서 굴러보는 것도 큰 경험이라고 생각해요. 어렸을 때는 뭐 연애하다 차여 가지고 해변가에 가서 이상한 씨 쓰고 울고 불고 그것도 해 봐야 되지 않을까 싶은데.
AI가 못 하게 할 것 같아요.
또는 내 인생 버킷리스트는 있는 돈 없는 돈 다 합쳐서 마추피추 가는 거야.
어.
그 유튜버라 그럴 것 같아요. 그 돈을 차라리 뭐 투자해라 이런 식으로.
그 보면은 AI가 배달 음식을 못 시키게 하더라도.
어쨌든 약간 오히려 저는 인간이 아무리 나이가 들어도 어린아이처럼 취급을 받는다면.
그죠?
행복도나 만족도는 더 올라가지 않을까?
그럴 수도 있어요. 그게 정말 이게 흥미로운 질문인게 행복이라는 건 어차피 다 상대적인 거잖아요. 그리고.
그죠?
세계관 인생관은 시대가 지나면 또 다 바뀌어요. 사실은 우리가 아날로그 꼰대기 때문에 우리는 그걸 불행이라고 생각할 수 있지만.
지금 알파 베타는 그걸 행복이라고 볼 수도 있을 것 같기는 해요. 그리고 세상은 진짜 항상 그렇게 변했었죠. 예를 들어서.
19세기에 뭐 톨스토이 도스토옙스키 소설책 같은 거 보세요. 남자가 여자를 사랑하면 적어도 연애 편지 한 30장은 써야 되거든요.
음. 음.
지금은 이성한테 관심 있으면 카카오톡으로 강아지 강아지 한 마리 보내잖아요. 이모티콘.
19세기 톨스토이가 보면 우린 인간도 아니에요. 이미.
아, 어떻게 그런 감정 표현을 만화로다 표현하냐.
낭만을 잃은 세대.
이미 낭만도 없고 인간도 아니라고 볼 거예요. 근데 우리는 또 그게 낭만이잖아요. 즐거.
비슷하게 22세기에는.
어.
AI가 신발끈을 묶어주고 인간은 일을 안 하고, 어떻게 보면 사회에서 대부분 사람들은 기본 소득을 받고.
그러니깐 결국은 AGI 시대에는 지금 예측으로는 오피스 워커, 화이트칼라 실업률이 40% 정도 될 거라고 생각하거든요. 근데 나라는 점점 부자가 되잖아요. 당연히. 음.
그러면은 당연히 언젠가는 기본 소득 이야기가 나올 거야. 누군가 그러고 많이 안 거예요. 그런데 재밌는 건 그거죠. 지금 10대 이 친구들이 성인이 됐을 때 국가에서 한 달에 그니까 지금 가치로.
100만 원씩 그냥 주고 한 달에.
음.
뭐 숙소 조그만 거 캡슐 같은 거 하나 주고.
음.
OTT 두 개 무료로 구독하게 해 준다 그러면 행복이라 그러지 않겠어요? 그거?
그렇죠. 그래서 정말 그래서 우리가 고민해야 될 건 이거 같아요. 첫 번째는.
그런 사회는 어떤 세상일까? 야.
왜냐면 이게 우리 눈앞에 보이는 세상이 자, 원리 같은 세상이라고 칩시다. 한 사람 한 사람 뭐 만족해서 살잖아요. 근데 살 원리는 그런 영화는 아니었지만 다른 디스토피아에는 결국은 그걸 또 지배하는 층은 또 분명히 있을 거예요. 그래서 지금 또 실리콘 밸리의 많은 파운더들이 생각하는 AGI 사회는 뭐냐면 이분들은 이미 기술적으로 20년 후에 도달할 거라고 생각하고 그런 미래를 또 특히 피터 틸 같은 분은 기술 봉건주의라고 지금 얘기를 합니다. 테크노 페이탈리즘.
사회가 다시 중세로 간다라는 거예요. 단 기술이 고도로 발달한 중세 시대. 이 급이 이 피라미드도 아니죠. 완전 요렇게 된 사회인 거죠. 완전히.
예.
침이죠. 델타 펑션. 아주 얇은 침이 하나 솟아 있는 거겠죠.
그렇죠. 이거 이제 수학에서 데 델타 함수라고 불러 가운데가 딱 하나만 있는. 그럼 거기에는 기술 또는 자본을 가진 0.5 뭐 0.001% 전 세계 한 만 명 정도 되겠죠.
그다음에 밑에 층은 누구냐면 이분들은 슈퍼스타라고 불러요.
슈퍼스타 이코노미. 슈퍼스타 경제. 그게 뭐냐면 무언가에서 너무너무 잘하는.
네. 막 글로벌한 스타들. 그리고 여기서 무언가를 잘한다라는 건 이미 기계가 잘하더라도 여전히 우리가 흥미를 느끼는 스포츠 같은 거겠죠. 이미 자동차가 사람보다 빠르지만 그래도 100m를 9초에 뛰는 사람 우리는 응원을 해요. 또는 뭐 전 세계에서 줄넘기를 제일 잘한다.
오.
줄넘기 하는 로봇이 더 잘할 거예요. 근데 막 땀을 철 흘리면서 줄넘기를 뭐 만 번 한다. 그걸 유튜브에 뜬다. 그럼 그분은 이제 또 갑부가 되는 거죠.
뭐 연산이나 추론 능력도 일종의 취미 생활처럼 돼서 그거를 이제 남들에게 보여주는 슈퍼스타가 있을 수 있겠죠.
그렇죠. 네. 그니까 결국은 이 세상에서 그 기계가 이미 잘하든 잘하지 않든 떠나서 사람 중에 제일 잘하는 사람들.
자, 그런 분들이 중간 정도 될 거고 그다음에 나머지는 그게 이제 한 99% 그분들을 이제 밑에서 그 기본 소득 받으면서 OTT 보면서 느끼면 그이 사회 GDP가 20% 30%씩 늘어나기 시작하고 대부분 제조업을 AI 로봇 이걸 우리가 피지컬 AI라 그러겠죠. 네. 로봇이 하기 시작하면 어떤 결과가 있냐면 이 추가 비용 마지널 코스트라고 불러요. 경제학에서선 추가 비용이 0이 돼 버려요. 그렇게 되면.
예를 들어서 이미 콘텐츠에서 그런 일이 벌어진 거잖아요. 온라인 콘텐츠가 대부분 무료잖아요.
예.
예전에 내가 책을 읽고 싶으면 구매하던가 도서관에 가던가 했었어야 되는데 다 무료로 더 있어요.
음.
사진, 영상도 대부분 무료로 있고 다시 말해서 콘텐츠는 이미 무료가 돼 버린 거예요. 현실적으로는 실질적으로 그런 식으로 음식 대량 생산할 수 있는 물건들은 무료가 될 거라고 지금 생각하고 있는 거 같아요. 거의.
다시 말해서.
그이 기본 소득을 받는 사람들은 기본 소득 가지고도 무료로 다 얻을 수 있는 게 너무 많아요.
물질이 이제.
콘텐츠 된다.
물질이 그렇죠. 어.
물질이 콘텐츠 같이 추가 비용이 0 정도로 돼 버릴 수 있기 때문에.
그 대신에 예를 들어서 뭐 그냥 귤 이거는 뭐 무료인데.
그죠.
제주도산 감귤 이거는 이제 추가 결제를.
그거 그거는 이제 뭐 업단위로다 갈 수가 있겠죠.
그렇죠. 추가 결제 같은 거 아주 특별한 것들 또는 레스토랑에 갔는데 대부분은 기계가 서빙하고 하는데 엉만장들은.
레스토랑에 가면 사람이 여전히 음식을 갖다 주는 거야. 어.
여기에는 엄청나게 돈을 내야 될 거예요. 예를 들어서.
그니까 생각해 보세요. 중세 시대는 우리가 가지고 있는 이 옷 옷이 너무 비싸서 평생 살면 한두 벌 정도 그니까 옷이 다 찢어지고 나면 새 옷을 받았는데 특히 최근에는 패스트 패션 같은 거 보면 그리고 뭐 할리우드 스타들도 보면 새 옷 사서 한 번 입고 버린다 그러더라고요. 그니까 빨지를 않고.
그게 더 저렴하대요. 차라리 그냥 세탁하고 사람을 또 써야 되니까. 아.
그 정도로 대량 생산이 돼 버린 거잖아요. 사실.
경제학 개념도 완전 바뀌겠네요.
그렇죠. 그래서 경제학 자체도 바뀌고 사회는 아마 그런 그 기술 봉건주의가 되지 않을까? 어떤 분들은 그러세요. 아니, 기술이 그렇게 발전했는데 중세 시대 같은 사회 구조가 가능할까? 그게 바로 그 사이언스 픽션 영화 듄이 그래서 인기가 있는 거잖아요.
그러면은 조금 다른 이야기로 가서 AGI가 어떤 결정을 내립니다. 근데 이게 뭐 결국은 이제 AGI가 정말 스스로 생각해서 내린 결론인지 아니면은 결국은 인간이 설계한 반응 중에 하나를 하는 건지 과연 이게 정말 자유 의지를 갖고 결정을 내렸다고 볼 수 있습니까?
교수님은 본인이 자유 의지가 있다고 생각하세요?
저는 없다고 봅니다.
그렇죠. 저도 당연히 없다고 봅니다. 우리가 지금 판단을 했을 때는 그 뒤에 체인이 길어요. 지인화.
맞아요.
유전, 교육에 내가 읽었던 책. 네. 어제 저녁이게 봤었던 넷플릭스 영화. 오늘 여기서 오면서 휴대폰에서 본이 모든 게 영향을 줄 거예요. 단.
자 우리가 자유 의지가 없다. 그래서 인간의 행동이 예측 가능하다는 얘기가 절대로 아니에요. 과학적으로는 자유 의지가 있어서 안 됩니다. 사실은. 음면 자의지라는게 정말 철학자들이 제 철학 전공하는 친구들이 얘기하는 자의지라는 것은 자연의 법 그 자연의 규칙하고 상관없이 내가 하고 싶은 걸 할 수 있다라는 거예요.
그럼 물리학을 뛰어넘겠다고 그건 있을 수 없는 일이잖아요.
그럼 제가 항상 얘기하는 게 그거요. 우리는 지금 자유 의지로 손 들 수 있죠. 이렇게.
근데 물리학적인 법칙이 있었겠죠. 그 뒤에.
음.
당연히 이 팔을 드는 힘줄을 움직이는 신호 전기 신호가 있었을 거고 전기 신호 뇌 안에서 만들어졌을 텐데 그 신호가 만들어지는 과정을 우리가 이해를 못 하고 이해를 못 하다 보니까 내 의지라고 얘기를 한 거지만 당연히 이유가 있었겠죠. 근데 흥미로운 건 뭐냐면 뇌과학 실험을 보면 손을 들어 그다음에 내가 들고 싶었다라는 생각이 만들어져요. 그래서 다시 자유 의지가 인과 관계를 만들어내는 액션을 하는 녀석이 아니고 액션을 이미 해 버리고 이거를 판단하는 그 스테이트먼트에 내가 왜냐 설명을 해야 되니까 내가 왜 팔을 들고 싶었지 하고 싶었으니까.
그래서 자유 의지라는 개념이 뇌과학에서도 사실은 인과 관계를 시작하는 녀석이 아니고 내가 한 행동을 평가하는 채점이라고 생각하시면 돼요. 요게 이제 존 딜런 해인즈 연구, 박사님 연구팀에서 한 건데 그러니까 우리가 하는 행동의 결과는 내 의지가 아니라.
원래 그렇게 하도록 되어 있는 것을 우리가 이해하는 과정이다. 이렇게 보는 거잖아요. 그럼 결국 이제 코딩되어 있는 어떤 것으로 행동을 했다면은 그것은 이제 의지가 아니라 어떤이 코딩된 결과로 나오는 거기 때문에 사실상 우리조차도 자유지가 없다.
그럼 인공지능은 자유지가 없다. 하지만 우리는 자유지가 있다고 느끼잖아요. 그럼 AI도 그렇게 느낄 수 있다라는 거죠.
AI도 본인이 자유 의지가 있다라고 주장을 할 거예요. 단 인간이 안 믿어 줄 거예요.
AGI를 누가 평가할 거냐라고 얘기했을 때 저는 누군가 평가하는 기관이 있으면 객관성이 떨어진다고 얘기하는게 만약에 인공지능이 나 자유 의지 있어 하잖아요. 그럼 대부분 사람들은 네 조상이 전자 부품인데 무슨 자유 의지가 있어? 기계잖아. 기계 차별주의가 분명히 있을 거예요. 사실 우리도 지능하고 자유 의지는 나의 지능하고 나의 자유의지만 느끼죠.
좀 저 우리가 상대방 머릿속을 볼 수가 없잖아요.
지금 저한테 두 분은 로봇일 수도 있어요. 좀비일 수도 있고 두 분에게 제가 좀비일 수도 있고. 근데 우리는 서로 믿어주는 거잖아요, 지금.
정리를 하자면은 어이 자유 의지에 대한 내용은.
AI AGI도 자신이 자유 의지가 있다고 느낄 수 있고 우리가 그렇게 느끼는 것처럼 하지만 우리의 자유 의지에 대한 것도 뇌과학자들이 굉장히 많이 연구를 해 봤는데 이게 나의 자유 의지로 어떤 결과가 나오는 게 아니라.
나의 뇌 살아온 모든 환경 뭐 유전자 지금의 환경 방금 전에 어떤 방금 전에 내가 본 정보 이런 것들이 어떤 결과를 내는 것을 우리가 선택했다고 받아들이고 이해하는 과정을 자유 의지라고 느끼는 거니까.
자유 의지는 이 어마어마한 복잡한 인과관계 곱하기 무작위를 우리가 그냥 압축해서 J팩 파일 하나로 압축해서 자유 의지야라는 자유 의지는 그냥 타이틀이라고 생각하시면 돼요. 이게는 절대로 아.
그리고 이것을 AI가 자유지 똑같이 우리와 같은 메커니즘으로 자유지가 있겠지만 역시나 이것을 우리는 이해할 수 없다.
그죠?
받아들이기 어렵다.
네. 긴 시간 저희를 AI 토피아로 안내해 주신 김대식 지식텔러님. 마지막으로 지식텔러님에게 AI는 어떤 존재인지 한 문장으로 표현을 부탁드리겠습니다.
나에게 AI란 호모 사피언스에 피할 수 없는 필연적인 미래다.
좀 더 철학적으로 가자면 그래서 인간이 원하는 게 뭘까 도대체?
어.
그럼 당연히 의식주 원하고 뭐 그런 거 있겠지만.
생존. 우리는 어차피 다 죽잖아요. 나중에 인간은 영원히 살기를 원해요. 당연히. 그리고 물질적으로 영원히 살게 사는 게 불가능하다면 영원히 기억되고 싶어요.
음.
그런데 문제가 있잖아요. 우리 서로 인간들은 정말 뭐 어마어마한 영웅이나 유명한 사람들 빼고 우리 같은 일반인들은 죽고 나면 6개월 후에 90%가 우리를 다 잊어버려요. 근데 인공지능은 우리를 영원히 기억해 줄 거잖아요.
우리 데이터가 남아 있는 것만으로도.
3년 후에 김대식 교도를 아바타로 시뮬레이션 해 가지고 우리 인생을 다시 한번 돌려볼 수도 있어요. 그 얘기는 뭐냐면.
인공지능 덕분에 드디어 우리가 영생을 얻은 거예요.
아. 네. 오늘 소중한 말씀 감사드립니다.
고맙습니다.
네. 감사합니다.
감사합니다.
AI 지식 특강 AI 토피아 다음 시간에도 더 흥미롭고 더 깊이 있는 AI 이야기로 찾아오겠습니다. 진정한 AI 토피아를 향한 여정은 계속됩니다.