Transcription
AI가 자꾸 우리 직업을 대체한다 들었는데 일자리가 없어지는 거 아닙니까?
많은 분들이 오해하고 있는게 AI는 단순 반복 작업을 잘하고 어려운 건 사람이 해야 된다면 그거는 잘 모르시고 하는 얘기예요. 왜냐면 IT 개발자들 한국에서 덜 뽑고 있어요. 역설적인게 사람들이 안전하다고 생각했던 분야에서 일어나고 있어요. 중요한 건 줄어드는 일자리의 개수에 주목하기보다는에 주목을 해야 된다.
안녕하세요. 한석준입니다. 진짜 대가들의 지식을 전하는 지식인 초대석. 오늘은 과학과 철학의 경계에서 화두를 전하는 한양이대학교 철학과의 이상호 교수님과 함께합니다. 어서 오십시오.
예, 안녕하세요.
네. 자, 먼저이 첫 번째 질문인데 AGI라는 용어가 있던데 인간 수준 범용 지능. 이거는 뭘 어떻게 봐야 되는 건가요?
이게 조금 복잡한데요. 사실 제가 거기에 관련해서 글도 썼지만 이게 말하는 사람마다 조금씩 다르게 얘기해요.
그 점에 좀 주목해야 돼요. 일반인들이 생각하기에는 SF에 등장하는 외 사람하고 전혀 구별 안 되는 안드로이드 로봇이 가진 인공지능을 생각하기 쉬워요. 근데 로봇 기술하고 인공지능 기술은 다른 거예요. 로봇은 물리적 공간을 정말 돌아다니는 거고 인공지능은 채치피트처럼 우리가 온라인상에 있는 거잖아요. 그러니까 그걸로 한정했을 때 인간 수준의 지능을 가셨다는 말 자체가 뭐하거든요. 예를 들어서 어떤 인간
그렇죠. 인간의 지능 범위가 또 있네요.
예. 똑똑한
이상호 교수님 정도 되는 인간과 있고 저 정도밖에 안 되는 인간도 있고
저게 아니라 전문가들도 서로 전문 분야가 다르면 사실은 다른 분 예 그거 자체가 좀 애매한 말이어서 그거를 컴퓨터 과학자들은 되게 어떤 식으로 번역을 하냐면 이게 이제 중요합니다. 잘 정의된 과업의 그 과업이 어떤 내용이더라도 다 처리할 수 있는 그런 인공지능으로 정의합니다. 알파고 한번 생각해 보세요. 봐도 기가 막게 잘 뒀잖아요. 근데 그거 그만두고 왜냐면 다 이겼으니까 얘가 나중에 메디컬 쪽으로 갔거든요. 그리고서 그쪽으로 훈련을 시키면 바둑 더 못 둡니다.
아, 복수 전공이 안 돼요.
복수 전공이 안 됩니다.
하나만 전공할 수 있고요.
예, 지금은 그래요. 왜냐면 이게 결국은 훈련을 시킨다는게 어떤 일을 되게 잘하게 그걸 다 조정해 놨어. 요건 2.7 돼야 돼. 요거 스위치로 요건 3이어야 돼요. 이건 다 조정해 놨는데 바둑 두지 말고 이제 게임해. 그러면 게임용으로 그걸 다 바꿔야 줘야 되는 거. 그러면 게임용으로 다 바꿔 주면 게임은 잘해. 근데 이제 바둑은 또 못 떠요. 그걸 특수 인공지능이라고 해요. 어, 아티피ci 스페셜 인텔리전스. 근데 그게 아니라 그냥 잘 정의된 문제를 주기만 하면 하나인데 따로 훈련시키지 않고도 이것도 하고 이것도 하고 이것도 하고 하는 것들 그런 걸 생각하는 거예요. 물론 그러면 여러분들이 금방 떠올리기에 채치T 이거 물어봐도 대답하고 이거 물어봐도 대답하고 근데 걔가 완벽하게 하지 않잖아요. 삼각도 있고 그다음에 타억도 당하고 여러 가지 그 문제들이 아직 남아 있기 때문에 그나마 AGI에 가장 가깝고 그거를 발전시키면 될 거로 기대는 하지만 사실은 일반 인공지능에 도달했다고는 아직 말을 못 하는 이유가 아직은 이제 한계가 있는 거고 그리고 개조차도 지금 그렇게 얘기를 잘하는 이유가 사실은 서치를 하거든요. 물어보면 일단 그 물어본 내용들을 가지고 서치를 해 가지고 그걸 갖다가 붙여 가지고 제너레이션을 하기 때문에 그런데 우리 인간은 서치 안 해도 어쨌든 대충 할 수 있잖아요. 이게 이렇게 생각하시면 돼요. 저는 채치보다 지식의 향해서 상대가 안 되고 이미지 생성 인공지능보다 그림 훨씬 못 그리고 그렇지만 저는 둘 다 대충해요. 사람은 거의 모든 일을 사람이 할 수 있는 일들을 대충은 다 할 수 있어요. 어느 정도 수준이 되면. 근데 그게 아직 인공지능이 안 돼요. 그래서 그걸 하겠다는게 일반 인공지능의 꿈입니다.
여기서 원론적인 걸 좀 여쭤보고 싶은데 그게 꼭 돼야 돼요?
정확히. 그러니까 그게 흥미로운 점은 기술자들하고 투자자들하고 지금 갈등이 있습니다. 왜냐면 돈이 돼야 되니까. 투자자들 입장에서는 여태까지 돈을 엄청 쏟아 부었어요. 돈을 벌어 와야 되는데 AGI는 무슨 Agi야? 그래서 요즘에 유형하는게 AI 에이전트인 거예요. 돈 벌어 와. 그러려면 내가 써 가지고 뭔가를 하면은 돈을 낼 거 아니에요. 근데 AI 에이전트는 AGI가 아니거든요. 그렇게 상당히 기능적으로 특화된 인공지능 연구 쪽으로 투자자들은 계속 압력을 넣고 있고 제 느낌에는 지금 빅텍들은 당분간은 그쪽 방향으로 갈 것 같아요.
아 돈이 될 수밖에 없는게 저만 해도 당장 에이전트가 더 유용하지. 뭐 제가 무슨 채티뷰티 붙잡고 농담먹기 하고 있을 거 아니니까.
근데 이걸 듣고 나니까 에이전트는 정말 어떤 특정 분야에서 한 사람 목소 일을 하는 거 아닙니까?
뭐 그렇게 기대를 하고 있죠.
그럼 이거 반대로 말하면 일자리가 없어지는 거 아닙니까?
지금 이거는 현실화 되고 있는데 제일 역설적인게 사람들이 제일 안전하다고 생각했던 분야에서 일어나고 있어요.
저 그러니까 너무 놀랍습니다. 원래 10년 전에 AI 얘기할 때는 야 그래도 뭐 예술하는 사람은 괜찮을 거야. 이렇게 얘기했는데 예술이 제일 먼저 지금
그리고 지금 IT 개발자들 지금 저 판교에서 덜 뽑고 있어요. 왜냐면 아주 심플한 이유예요. 개발자로 처음 입사하는 애들은 훈련은 받았지만 사실 실무는 처음이잖아요. 그러니까 얘네들도 어차피 가르쳐야 돼요. 근데 AI 에이전트 코딩하는 에이전트 물론 아직까지는 불안전해요. 근데 얘네들을 가르쳐서 쓰면 되거든요. 왜냐면 싸거든요. 그게 무서운 얘기죠. 그러니까 근데 조심할 거는 인간을 완전 대체하는 건 아직 아닌게 이렇게 가르쳐 가면서 쓸 수 있는 고급 그러니까 경력 5년 차 이상 10년 차 그 사람들은 있어야 돼요.
헤드는 있어야 돼.
예.이 이 사람들 없애고서 AI트로 다 대체할 수 없어요. 근데 문제는 여기서 더 심각한 문제가 생깁니다. 지금은 기업 입장에서는 비용을 줄여야 되니까 그렇게 가요. 근데 탈숙년이라는 문제가 돼요.
그러니까 AI한테 이를 지시할 수 있는 경력 5년 10년짜리 숙련된 기술자가 없어지는 거 아니에요.
왜냐면 점점이 사람이 정년 없고 밑에 애들은 안 뽑았고 그리고 얘네들은 훈련도 안 시켰고 그러니까 일부 뽑았더라도 아주 소수만 남았어. 사회 전체적으로 실제로 AI한테 일을 잘시키고 AI가 한 일을 어 너희가 잘못해서 가르쳐 주고 그것들 아이디어를 조합해서 거대한 프로젝트를 할 수 있는 영향들이 점점 줄어드는 거예요. 심각합니다. 그러니까 제 개인적인 입장은요 고민을 해야 된다고 생각해요. 뭐냐면 우리가 당연히 효율성을 중시해서 이거를 뭐 못 하게 한다든가 그럴 순 없어요. 그렇지만 프로그램 전체를 감독하고 설계하고 이런 사람들을 일정 부분 가지고 있어야 되잖아요. 그럼이 사람들을 계속 유지할 수 있는 방안이 뭘까? 그거는 뭐냐면 AI로 대체하는 거 허용을 하되 회사 내부에서요 정도 규모는 코인력으로서 AI 활용을 할 수 있는 그러니까 제가 꼭 그렇게 하라는게 아니라 그게 제일 좋은 방법이라 생각하진 않아요, 저도. 근데 각 기업 차원에서의 효율적인 어떤 행동에 전부 맡겨 두기보다는 사회 전체적으로 이런 핵심 영량을 키울 수 있는 방안들을 대도화시키고 실천을 해야 된다고요. 교육에서도 마찬가지예요. 학교 교육에서도.
그러게요. 저도 지금 얘기 듣자마자 중학교 고등학교부터 바로 AI를 가지고 컨트롤하는 훈련을 시켜야 되는게 아닌가?
그렇죠. 제 동료 교수님이 얼마 전에 겪은 일인데요. 수업을 하시다가 이제 수업 끝났더니 어떤 친구가 와 가지고 질문하는 거 너무 자연스럽잖아요. 근데 다짜고짜 교수님 틀렸어요. 그러더래요. 뭘 틀렸니? 교수님이 어떤 학자 견해가 이거라고 얘기했는데 요즘에 애들이 강의 들으면서 채치피 켜 놓고서 물어보거든요. 똑같은 거 물어봤는데 다른 얘기 하는데 교수님이 틀렸어요. 그러서 똑같은 얘기 하는데 다른 얘기 하면 a가 맞는 거고 교수가 틀린 거예요? 그니까
그거 디폴트인데 어 그러니 근데 나도 이제 수업 강의 준비하느라고 체크해 봤는데 혹시 AI도 환각이라는게 있으니까 틀릴 수 있으니까 좀 확인해 봐야 되지 않겠냐? 그러니까 얘가 그럴 리가 없다는 거야. 절대로. 왜냐? 자기는 무료 버전이 아니라 유료 버전을 쓰고 있대요.
무슨 소리예요? 저도 제가 얼마나 많이 내고 있는데요.
지금 알 수 아시잖아요. 이게 유료 무료 차이가 리소스 얼마나 많은 프람트 수스냐 그거지. 무료는 헛소리를 하지만 유료는 헛소리 안 한다. 요즘 대학생들이 그렇게 생각해요. 그걸 현명하게 쓰는 방법을 같이 가르쳐야 돼요. 그리고 너 이거 과전하다 보면 네가 할 수 있는 일이 없어진다. 예를 들어서 책을 읽고 요약하는 능력 AI 시키면 너무 쉽지만 그거 연습해 둬야 된다. 그래야지 나중에 얘가 헛소리하면 아 얘가 요약 잘했는데 이거 틀렸네. 이걸 잡아낼 수 있다. 그게 오히려 AI를 누구나 쓰는 시대의네 경쟁력이다. 그걸 가르쳐야 돼요.
AI가 자꾸 우리 직업을 대체한다, 대체한다 그러는데 그럼 기존에 이미 일하고 있는 우리가 AI를 쓰면 일을 더 잘할 수 있나요? 어떤 직업이 AI를 쓰면 더 잘할 수 있느냐 이런 질문도 하지만 사실 생각해 보면 거의 모든 직업 아닙니까?
맞아요. 그 정확히 그게 맞습니다. 그리고 제 개인적인 의견이 아니라 실제로 UN 보고서에 그렇게 나와 있. 예. 그러니까 아원 선님이 정확히 지적하신 거예요. 그러니까 뭐냐면 많은 사람들이 대중 배치에서 접할 때는 우리 일자리 다 잃는다. 혹은 AI 시대는 이거래야지 살아납니다. 뭐 이런 식으로 굉장히 심플하게 나가는데 UN 보고서에서 혹은 UN의 노동 기구, IO 이런 데서 다 똑같은 얘기를 하는데요. 핵심은 이겁니다. 앞으로 30년 정도의 그 윈도우를 봤을 때 지금의 개수가 맥시멈으로 30%로 봐요. 중요한 건 그 보고서들이 다 줄어드는 일자리의 개수에 주목하기보다는 기존 직업이 어떻게 영향을 받는가에 주목을 해야 된다. 즉 뭐냐면 기존 직업이 직능이 변할 것이라는 얘기를 되게 많이 해요. 예. 즉 교사 그러면 현재까지 교사가던 일 중에서 AI를 시키면 훨씬 효율적으로 할 거는 AI한테 조금 이임을 하고 일대일로 애를 갖다 이렇게 정수적인 발달을 도와주거나 AI를 어떻게 현명하게 사용할 건가도 가르치고 그렇게 직능이 훨씬 더 많이 바뀔 거고. 근데 이게 쉽지 않잖아요. 내가 원래 요렇게 할 줄 알았는데 이렇게 하라고 하면은 배워야죠. 그리고 그걸 어떻게 할지를 고민해야 되고 그래서이 직능 변화를 잘 고민하고 어떻게 잘할 건가를 정부나 여러 관련 단체에서 재교육도 시키고 관심을 기울여야지 기술 도입에만 집중해서 안 된다. 즉 인력 재교육과 그 증능의 변화에 대비해야 된다. 그게 사실 콘센서입니다.
근데 저는 어떻게 보면 그냥 우리 늘 그래 왔다는 생각도 듭니다. 예를 들어서 70년 전에는 운전을 할 수 있는게 기술이었지 않습니까? 그래서 그때는 운전을 하는 사람을 높여 부르는 말로 기사라고 불렀어요. 근데 이제 그게 오토매틱 운전이 나오면서 모두가 다 할 수 있는 일이 됐죠. 그렇지만 그럼에도 불구하고 운전을 극상으로 잘하는 사람은 또 살아남았거든요. 그 일을 극상으로 잘하는 사람은 계속 살아남아 있지 않을까?
정확히 봤습니다. 왜 그러냐면 지금 AI가 뭘 못 하냐? 많은 분들이 오해하고 있는게 AI는 단순 반복 작업을 잘하고 뭔가 복잡하고 어려운 건 잘 못하니까 그건 사람이 해야 된다. 뭐 이런 식으로 말씀 많이 하시는데 그거는 잘 모르시고 하는 얘기예요. 왜냐면 AI는 어차피 어떤게 어렵고 어떤게 쉽고를 아는 존재가 아니거든요. 훈련 데이터가 양질에 있느냐. 그리고 그것들을 얼마나 잘 정의된 목적 함수가 있느냐. 그래서 그 건물 전체의 에너지 효율을 어떻게 높일까? 그럼 굉장히 구체적으로. 그러니까 문제가 굉장히 잘 정의돼 있고 거기에 대한 데이터가 많고 이런 거는 단순 반복 작업이 아니라 굉장히 복잡한 작업도 잘합니다. 그런데 AI가 정말 못 하는게 평가예요. 이미지 생성 AI 아까 미드전이 써 보셨다고 했잖아요. 걔네들 항상 복수로 답을 주잖아요.네 개. 어 신기한게 내가 똑같은 프람프트로네 개가 나왔는데 어떤 건 참 잘 그렸는데 어떤 건 말도 안 되는 것도 막 옆에서 쓰잖아요.
근데 봐요. 인공지능 입장에선 그네 개가 동등한 거예요. 똑같은 프람프테이 생성됐으니까. 그니까 인공지능은 되게 좋은 것과 되게 나쁜 것 그걸 평가하기 되게 어려워요. 그래서이 용어도 있는데 원래 생성의 인공지능의 맨 마지막 단계에 휴먼 피드백 강화 학습이라는 걸 해요. AI 더어 질문을 하고 답변을 복수로 만들게 해요. 그다음에 어이 답변 제일 좋은 거야. 그다음에이 답변 이거는 절대로 하면 안 돼. 이건 큰일나. 이러면 막 우리 회사 문 닫아야 돼. 그런 거 가르쳐 주는 거를 엄청나게 합니다. 그래서 나온 결과가 지금 그렇게 똑똑한 애들이 나온 거예요. 그 말은 뒤집어 얘기하면 AI에게 인간 입장에서 좋은 답과 나쁜 답을 스스로 판단하게 하는 능력은 되게 어려운 기술이에요. 불가능하진 않지만 그래서 말씀하신 것처럼 그쪽 분야의 전문성이 상당히 있어서 요구가 더 좋은 답이에요. 왜냐하면 이유를 대는이 능력은 AI 시대에도 여전히 중요한 능력. 지금 이제 말씀 중간에 계속 얘기하신 것 중에 AI가 틀린 답을 낼 수 있는 가능성을 말씀하시잖아요. 할루시네이션이라 하든가요? 저도 처음에 70T 나왔을 때 좋다고 한번 써 봤어요. 탄석 아나운서는 어떤 사람이야? 그랬더니 70년대 뉴스에서 맹활약한 여성 아나운서라고 나오더라고요. 얘 할루시네이션은 왜 이렇게 많이 생기는 거고 언제쯤 없어질 거고 그런가요?
요거 조금 주의가 필요한데요. 많은 분들이 되게이 할로시네이션에 대해서 인공지능이 거짓말 하는게 문제다. 이런데 사실 그 말은 정확하지 않습니다. 왜냐면 저도 제가 모르는 사이에 참이 아닌 말을 할 수 있어요. 왜냐면 제가 잘못 알고 있을 수도 있고. 근데 인간하고 인공지능에 중요한 차이가 있습니다. 이게 중요하다고 저는 생각하는데 저는 만약에 방송 들어오기 전에 확인해 본 사안 그런 거 하고 제가 한 몇 년 전쯤 어디서 우연히 들었는데 맞는 거는 같은데 잘 모르는 얘기는 가려서 얘기하죠. 그러니까 뭐냐면 지금 현재 생성 인공지능에 기반이 되는 아키텍처의 특징이 뭐냐면 참과 거짓을 그 차이가 안 느껴지게 잘 버무려내는 능력을 극대화하는 겁니다. 그리고이 테크놀로지에는 참 거짓 필터가 없어요. 그러니까 이걸 생성해 낼 때 이게 참인지 거짓인지를 확인을 안 해요. 그냥 무조건 제일 자연스럽게 앞에 주어진 내용에 비추어서 제일 자연스럽게 따라올 말들을 만들어내는 거예요. 그러니까 사실은 너무 신기한게 저는 개인적으로 사람들이 생상 인공지능이 거짓말을 한다는게 굉장히 문제다라고 얘기하지만 저는 이 정도로 참말을 많이 하는게 굉장한 능력이라고 생각해요. 기술자들이 사실 얘는 다 헛소리를 해야지 정상이에요. 근데 엄청나게 많이 노력을 해 가지고 참말을 상당히 많이 하게 만든 거예요. 근데 그래도 이거는 기본적으로 아키텍처 자체가 그런 한계가 있는 거기 때문에 환각은 한마디로 정리되지만 줄일 순 있어도 없앨 수는 없습니다.
그 100% 의존할 수 없단 말이네요.
그렇죠. 근데 그렇다고 해서 인공진이 나온 걸 갖다 전부 다 일 체크하면 왜 쓰겠어요? 그건 아니고 웬만하면 다 쓰는데 결정적인 순간에서는 꼭 확인해서 써야 됩니다. 이게 황각이 프로그램을 잘못 만든 버그가 아니라 기술적으로 특징이라는 점을 항상 기억하고 사용해야 됩니다.
그래서 그 AI 중에 퍼플렉시티라고 근거 가져온 애 있잖아요. 걔가 좀 더 신뢰가 가기도 합니다.
근데 그 경우도 줄어들 뿐이지 완벽하진 않아요. 그게 왜 신뢰성이 높아지냐면 질문을 던지면 그 질문의 내용과 가장 유사한 어떤 콘텐츠를 먼저 찾아요. 그래서 그 서치를 내가 던진 질문 앞에다가 그 서치 결과들을 다 집어넣어요. 제한을 딱 시키는 거죠. 헛스를 좀 덜하도록. 그러니까 거기 단계까지는 사실은 할루시네이션이 없어요. 근데 그러고 나서 생성을 또 하거든요. 어차피 그러니까 콘텍스트가 제한돼서 생성하는 과정에서 환각이 줄어들 순 있어도 어차피 맨 마지막 단계는 또 생성이어서 100% 제거는 불가능합니다.
기분이 별로 안 좋으신 거 같아요.
아 기분이 안 좋기도 하고 기분이 좋기도 해요. 예. 어차피 인간 대체 못 하겠구나 이런 생각도 들고
인간 대체는 아직까지 안 돼. 새로운 테크놀로지 나오기 전까지는
환각이 할루시네이션에 좋은 측면도 있습니까?
어 그럼요. 환각이라는 걸 자꾸 우리가 거짓말 참말 선악 개념으로 보니까 그렇지 환각이란게 결국은 세상에 없는 것들 혹은 세상에선 거의 물리적으로 불가능한 것들을 만들어 낼 수 있는 능력이잖아요. 예를 들어서 예술 분야에서는 환각이 굉장히 생산적입니다.
아군요.
그렇죠. 그렇죠. 예술이라는게 기존에 있는 걸 뻔하게 주면은 그냥 수준이 낮은게 되잖아요. 새로운 걸 창조해야 되잖아요. 그래서 예술가들은 특히 이제 디지털 아트하는 분들은이 환각을 너무너무 생산적으로 사용하는데 자기가 뭔가 아이디어가 있어요. 근데 그 아이디어에서 자기가 아무리 짜내도요 정도밖에 이미지가 안 떠올라. 혹은 소설이라면요 정도밖에 플롯이 안 떠올라. 그럴 때 그걸 다 주고 여기서 가능한 모든 것들을 창의적으로 만들어 봐. 혹은 뭐 기계하게 만들어 봐. 이렇게 하면 얘가 환각을 막 하는 거예요. 그럼 막 만들어내요. 세상에 없는 것들을. 그럼 그 중에서 어 요거 괜찮은데 요거 다시 주고 요거에서 좀 변형시켜 봐. 이런 식으로
창조성을 가진 동지처럼 쓰네요.
예. 정확히 그렇습니다. 그게 그 표현이에요. 예술가들은 이게 도구만은 아닌 거 같다는 얘기를 해요. 붓이나 물감은 도구죠. 머릿속에 있는 어떤 예술적 의도를 실현시키는 도구의 물가인데 지금 예술인공 지능은 사실은 협력자에 더 가까워요. 물론 이제 인간이 주도권을 가지고 있죠. 그렇지만 준 답변을 보고서 이건 미쳐 생각 못 했네. 내가 감동하고 거기서 또 생각도 해보고 굉장히 이야기가 잘 통하지만 가끔 멍청한 짓을 하서 약간 타일러 가면서 써야 되는 동료죠. 그래서 그런 측면이 하나 있고요. 또 하나가 비용이 있습니다. 영화에서 인공지능 엄청 쓰거든요. 그럼 왜 그러냐면 어떤 특정 신을 찍었어요. 근데 찍고 나서 이렇게 봤더니 배우 연기 다 마음에 들어. 아 근데 배경이 마음에 안 들어. 근데 저 사람들을 다시 부르면은 엑스트라도 어마어마하게 줘야 돼. 근데 요새 인공지능은 얘를 그대로 주고 배경만 싹 바꿀 수 있거. 그래서 비용을 엄청 줄일 수 있습니다. 그래서 환각을 갖다가 나쁜 것이다고 단재하기보다는 그것에 과존하지 않고 우리가 그것들을 생산적으로 활용할 수 있는 방법을 분야마다 열심히 모색을 해야 된다고 생각합니다.
지금 방금 하신 말씀은 정말 놀랍습니다. 왜냐면 저는 할루시네이션이 뭔가 정확도를 떨어뜨리는 차원에서만 생각을 했는데 그 자체가 새로운 창의성의 원천이 된다는 생각은 해 본 적이 없습니다. 그럼 이런 AI의 환각에 우리 일반인들이 대응할 수 있는 방법은 뭔가요? 그걸 일일이 다 확인하는 건 너무 시간 낭비잖아요.
저는 일단 두 가지를 제안드리고 싶은데 하나는 뭐냐면 질문을 던질 때 야 뭐뭐에 대해서 얘기해 줘.이 책은 무슨 내용이야가 아니라 서신 거기에 자기의 관심사 그다음에 자기가 이미 알고 있는 거 이런 것들을 막 다 집어넣어 가지고 제안을 굉장히 많이 해서 아주 스페시픽하게 답변을 얻고 그다음에 또 한 가지는 얘가 환각을 자기 규정할 수 있어요. 답이 나왔어요. 진짜 맞아. 내가 보기엔 이거 아닌 거 같은데 이거에 대해서 확인해 봐. 이런 자료가 또 있네요. 그래서 그다음에 계속해서 추가 질문을 추가 질문해 가지고 좀 더 맞는 답으로 이렇게 유도해 갈 수 있는 그런 어떤 능력들을 키워야 되는게 한 가지고요. 또 한 가지는 좀 더 원론적인데 정말 중요한 문제는 최종적으로 자기가 확인하고 익스플로레이션 단계 어떤 문제인지 규정도 잘 안 되고 그것들을 어떻게 해결해야 되는지도 잘 모르는 그런 초기 단계에서는 마음껏 쓰시는 거예요. 근데 나중에 정작 중요한 자리에서 공적으로 발표를 하거나 자기의 위신이 걸린 문제일 때는 그 내용들을 체크를 하는 그렇게 약간 모드에 따라서 어떤 단계인지에 따라서 다르게 쓰는 걸 그걸 좀 추천드립니다.
그 얘기 들으신 적 있습니까? 자신의 유튜브 페이지를 누군가에게 절대 보여 주면 안 된다는 너무 많은 것들이 거기서 드러나니까요. 뭐 사소하게는 정치적인 성향부터 시작해서 내가 평소에 좋아하는 거 뭐 이런게 다 뜨니까 그게 알고리즘이 그렇게 만들어내는 거잖아요. 근데 그래서 좀 편양적인 것도 있어요. 이런 편양적인 결과를 가져오게 되는 알고리즘 문제라고도 볼 수 있지 않을까요?
이미 굉장히 큰 문제라고 사람들이 생각하고 있고 거기에 대해서 대응책도 모색하고 있는데 그렇게 쉽지는 않은데요. 핵심은 뭐냐면 인간이 자신이 뭘 할지를 자율적으로 선택할 권리가 있잖아요. 근데 권리를 행사하는 것에 대해서 AI가 너무 파워풀한 도구를 제공해 주고 있기 때문에 그러니까 내가 좋아하는 동영상 몇 개를 보면 그거하고 얼라인을 쫙 시켜 가지고 그쪽 부자만 쫙 추천해 주잖아요. 그런데 그게 당연히 좋죠. 내가 좋아하는게 계속 나오니까. 그런데 그게 바람직하냐라고 물었을 때 실제로 설문 조사 해보면 그거 별로 안 좋은 거 같다. 왜냐면 계속 보고 있는이 콘텐츠 말고 다른 세상들도 있고 내가 이게 굉장히 평양되었을 가능성을 막연하게는 알고 있지만 어쨌든 이게 좋으니까 그 뭐 필터 버블이니 뭐 에코챔버니 이런 얘기를 하잖아요. 이제 대응책이 좀 복잡해져요. 옛날에 우리가 레가스 미디어가 되게 중요한 역할을 했게 공정보도이 원칙에 따라서 굉장히 논쟁적인 사안이 있으면 그 사안의 참반 양론을 항상 균형 있게 보죠. 어. 그렇게 돼 있으면은 사람들이 자기가 좋든 싫든 무조건 양쪽을 들어야 되니까 어 이런 면도 있네 바뀔 수가 있잖아요. 근데 그걸 강제할 수 있냐는 거예요. 유튜브 같은 데서. 그까 결국은 추천 알고리즘을 건드려야 되는데 그걸 너무 많이 건드리면 개인의 선택권을 제한하는게 됩니다. 그래서 많은 사람들이 지금 제한하고 있는 거는 적어도 두 가지를 확실하게 하자. 하나는 투명성입니다. 인공지능이 유튜브나 이런 어떤 포탈에서 나한테 어떤 콘텐츠를 추천할 때 어떤 방식으로 어떤 원리에 따라서 어떤 거를 고려해서 추천하는지를 투명하게 밝히자. 두 번째 그중에서 적어도 일부는 내가 조종할 수 있게 하자. 내 거를. 어 케이크를 계속 먹는 사람이 그 계속 주니까 그걸 먹지. 사실은 자기한테 선택권을 지워주면 야 나한테 케이크 더 이상 주지 마. 이런 얘기를 할 수 있어야 되는 거 아니에요. 그러니까 나는 적어도 20%는 내 생각과 좀 다른 콘텐츠를 좀 자동으로 뜨게 해 줘. 그거를 강제할 순 없어요. 그렇치면 적어도 그걸 틱하면 그 알고리즘이 작동하도록이 두 가지를 요구하고 있는데 이게 아직 안 지켜지고 있는 거.
뭐 그걸 떠나서 누군가의 유튜브 페이지를 봤는데 지식 인사이드가 있다. 그럼 아이 사람은 굉장히 지식을 탄구하는 사람이구나라는 걸 알 수 있죠.
아 예 300만 동자 축하드립니다.
아이 감사합니다. 인터넷 쇼핑몰도 저는 좀 무섭습니다. 제가 여기서 친구랑 어 마이크 요새 뭐 좋아 얘기하고 있으면 그게 갑자기 떠요. 이거 어떻게 된 겁니까?
공식적으로는 절대로 인정을 안 하는데요. 실험을 너무 많이 했어요. 사람들이. 휴대폰에 마이크가 있잖아요. 물론 그거는 이제 제가 통화할 때 쓰는 거지만 원칙적으로 그게 우리가 하는 모든 대화 내용을 다 듣게 활성화시킬 수 있어요. 제가 말하고 싶을 때 말하는게 아니라 그냥 엿들을 수 있는 거예요. 자, 그런데 이제 동의의 문제가 있죠. 내가 허용했느냐? 불행위도 사실은 동의를 했다고 볼 수가 있습니다.
제가요?
예. 혹시 구글 쓰실 때 그 약관 읽어 보셨어요? 약관이 한 4, 50페이지 되거든요. 안 읽어 보셨죠? 저도 안 읽어봤어요. 거기에 귀아에게 소비자에게 제공되는 저희 서비스의 품질을 향상시키기 위해서 필요한 데이터 및 정보를 수집하고 이걸 기반으로 서비스 품질을 향상시킬 수 있습니다. 뭐 이런 비슷한 구절이 있어요. 그 기업 입장에선 그거라고 주장할 수 있죠. 왜냐면이 사람들이 프라이버시 넘탐하는게 아니라 인공지능이 듣는 거거든요. 어 얘가 낚시 얘기를 하네. 그럼 낚시를 띄워주고 얘가 홍삼 얘기를 하네. 홍삼 뛰어주고 이렇게 하는 거기 때문에 저도 그런 경우가 너무 많아요. 참고로 제 컴퓨터에는 마이크가 없습니다. 근데도 불구하고 친구나 아니면 가족하고 무슨 얘기 하고 있으면 바로 유튜브 거기서 그 추천 동영상에서 그거 관련된게 떠요.
마이크가 없는데 어떻게해요? 휴대폰을 그 옆에 있잖아요. 그게 구글 계좌가 연결되니까 그 휴대폰이 듣고 그걸 또 그 컴퓨터에 보내 주는 거예요. 물론 이건 다 리즈너블 개스입니다. 그렇지만 저는 95% 이상 확률로 맞을 거라고 봐요. 근데 그걸 인정하는 순간 당연히 소성 막 복잡한 거기 때문에 근데 저는 소송에 걸려도 아마 소비자들에게 더 좋은 서비스를 하기 위해서 하는 거다. 그렇게 얘기할 것 같아요.
들었다 안 들었다에 대한 증명을 어떻게 하겠습니까? 어떻게 물리적으로 막고 다닐까요?
아니요. 그거는 세상을 제도적으로 해야 된다고 생각해요. 일단 아까 얘기한 그 원칙이 똑같이 되는데 너희도 그거 하는지 안 하는지 투명하게 정보 공개해라. 그리고 만약에 공개한다면 그러면 이런 경우에 우리가 당신들 얘기를 듣고 광고를 개시하는 걸 동의하십니까? 그걸 항상 묶고서 해라. 그러면 그거 동의할 사람 거의 없을 거거든요. 할 사람은 하고 그 필요한 사람들은 하고 근데 그걸 안 하고 있어서 문제니까 이건 제도적으로 풀어야 될 문제라고 저는 생각을 합니다.
자 그러면 이제 어떻게 보면 좀 포괄적인 얘기입니다. 그래서 결국은 AI가 우리 인류를 행복하게 만들어 줄까요?
저는 AI가 우리를 행복하게 만들어 주게 만들어야 된다고 생각합니다. 아, 그러니까 뭐냐면 AI 미래는 정해져 있고 우리가 할 수 있는 건 적극 수용하거나 막 거부하거나 그 둘 중에 하나라고 생각하는데 저는 그러면 안 된다고요. AI가 그 기술 개발 자체도 가보넌스를 잘 만들어서 우리가 소중하게 생각하는 그런 가치를 존중하고 그걸 증진시키고 우리를 좀 더 그쪽 방향으로 강화시킬 수 있게 그렇게 노력을 해야 된다고 생각합니다. 그니까 AI가 기술이 발전하는만큼이나이 기술을 어떤 방향으로 발전시키고 어떤 방향으로 통제할지에 대한 그런 규정들을 전 국가가 컨센서스를 만들어 가야 되는 거네요.
기술도 만들고 제도도 말고 우리가 실천도 해야 되고 리터러스도 키워야 되고 이런 노력이 이루어질 때 우리가 훨씬 더 효율적으로 살아남고 더 좋은 일들을 많이 해낼 수 있다고 생각합니다. 그래서이 과정에서 어 여러 가지 가능성들을 제공해 주는 역할을 정부가 해야 되고 그리고 이제 개인들은 그런 기회들을 적극적으로 활용해서 자신의 영향들을 최대한 끌어올리려는 그런 노력들을 해야 된다고 어 생각합니다.
자 이렇게 해서 오늘 긴 시간 동안 AI가 가져올 변화 우리 사회에 어떤 변화가 생길지에 대해서 쭉 얘기를 해 봤는데 AI 시대가 도래한 지금 교수님께서 특별히 강조하고 싶으신게 있다면요?
아까 말씀드렸지만 국제적 수준에서 고민할 것도 있고 우리나라의 어떤 상황들을 고려해서 고민할 것도 있고 그렇게 사실은 우리가 할 일이 되게 많은데요. 그나마 좀 다행스럽게 생각하는게 지난 정부도 그랬는데 최근에 정부는 전반적으로 AI가 얼마나 혁신적인 기술이고 이게 국가의 경제 발전이나 미래에 얼마나 중요한지를 좀 신경을 쓰고 있는 거 같아요. 그래서 국정 과제의 AI가 되게 핵심 과제로 올라와 있고 단순히 AI 기술을 막 돈 많이 때려 보지 잘하겠다만이 아니라 그것들에 대해서 어떤 문제가 있을 수 있는지 사람들은 어떤 걸 기대하고 어떤 걸 두려워하는지 이런 것들을 공론장을 통해서 좀 모으고 디지털 소사이티 같은 데를 통해서 논문 경진대회에도 하고 토론대회에도 하고 이렇게 해 가지고 그 사람들의 생각들을 모아서 정책으로 만들어내는 그런 노력을 하고 있다는 점에서 저는 이런 쪽 노력들이 좀 더 적극적으로 이루어질 필요가 있다고 생각을 합니다. 안 어려웠던 시대는 없는 거 같기도 해요.
각 시대마다 다 도전과제가 있었죠.
그러니까 이제 다 풀어냈던 과거니까 그건 쉬웠다고 생각이 되는 거지 그 당시에는 그만큼 어려웠을 것 같고 이제 우리 시대에는이 과제가 닥쳤으니 우리는 이제 이걸 잘 해결해 나가야 되지 않을까 싶습니다. 교수님께서 계속 많은 좀 가르침을 주시겠네. 오늘 이상욱 교수님과 함께 AI의 미래 그리고 AI 기술이 현재 가지고 있는 문제 그 문제를 우리 인류가 어떤 식으로 대처해 나가야 되는지에 대해서 아주 깊은 말씀을 많이 나눠봤습니다. 지금이 영상을 시청하고 계시는 여러분 한 명 한 명이 어떻게 생각하고 어떤 의견을 내느냐에 따라서 우리에게 훨씬 더 바람직한 미래가 올 수 있다라고 생각이 됩니다. 지식인 초대석 오늘은 여기서 마무리 짓겠습니다. 고맙습니다.
[음악]
[음악]