Transcription
Центр изучения экзистенциальных рисков. Он был преподавателем на кафедре истории в Еврейском университете в Иерусалиме, а также является соучредителем Sapenship. Как многие из вас знают, он является автором бестселлеров, среди множества книг, "Sapiens: Краткая история человечества", "Homo Deus: Краткая история будущего", "21 урок для 21 века" и других, продав более 50 миллионов книг по всему миру на 65 языках. Он фокусируется на макроисторических вопросах нашего времени. И какой идеальный момент с этим насущным появлением и разрушением ИИ, чтобы кто-то столь выдающийся, как Юваль, взялся за эту задачу. Пожалуйста, присоединяйтесь ко мне в теплом приветствии Ювала Ноя Харари, чтобы он выступил с беседой об ИИ и человечестве. Итак, всем привет. Есть один вопрос, на который сегодня должен ответить каждый лидер относительно ИИ. Но чтобы понять этот вопрос, нам сначала нужно прояснить несколько моментов о том, что такое ИИ и что ИИ может делать. Самое важное, что нужно знать об ИИ, это то, что это не просто еще один инструмент. Это агент. Он может учиться и меняться сам по себе и принимать решения сам по себе. Нож — это инструмент. Вы можете использовать нож, чтобы нарезать салат или убить кого-то, но это ваше решение, что делать с ножом. ИИ — это нож, который сам может решить, резать ли салат или совершить убийство. Второе, что нужно знать об ИИ, это то, что он может быть очень творческим агентом. ИИ — это нож, который может изобретать новые виды ножей, а также новые виды музыки, медицины и денег. Третье, что нужно знать об ИИ, это то, что он может лгать и манипулировать. 4 миллиарда лет эволюции показали, что все, что хочет выжить, учится лгать и манипулировать. Последние четыре года показали, что ИИ-агенты могут приобрести волю к выживанию, и что ИИ уже научились лгать. Теперь один большой открытый вопрос об ИИ заключается в том, может ли он мыслить. Современная философия началась в 17 веке, когда Рене Декарт провозгласил: "Я мыслю, следовательно, я существую". Еще до Декарта мы, люди, определяли себя своей способностью мыслить. Мы верим, что мы правим миром, потому что мы можем мыслить лучше, чем кто-либо другой на этой планете. Бросит ли ИИ вызов нашему превосходству в области мышления? Теперь это зависит от того, что означает мышление. Попробуйте понаблюдать за собой, когда вы мыслите. Что там происходит? Многие люди замечают, как слова появляются в их сознании и формируют предложения, а затем предложения формируют аргументы, такие как "Все люди смертны. Я человек, следовательно, я смертен". Если мышление действительно означает упорядочивание слов и других языковых токенов, то ИИ уже может мыслить намного лучше многих, многих людей. ИИ, безусловно, может придумать предложение вроде "ИИ мыслит, следовательно, ИИ". Некоторые люди утверждают, что ИИ — это просто улучшенный автокомплит. Он едва ли предсказывает следующее слово в предложении. Но так ли это отличается от того, что делает человеческий разум? Попробуйте понаблюдать, поймать следующее слово, которое появляется в вашем сознании. Вы действительно знаете, почему вы подумали это слово, откуда оно взялось? Почему вы подумали именно это слово, а не какое-то другое? Вы знаете? Что касается упорядочивания слов, ИИ уже мыслит лучше многих из нас. Следовательно, все, что состоит из слов, будет захвачено ИИ. Если законы состоят из слов, то ИИ захватит правовую систему. Если книги — это просто комбинации слов, то ИИ захватит книги. Если религия построена из слов, то ИИ захватит религию. Это особенно верно для религий, основанных на книгах, таких как ислам, христианство или иудаизм. Иудаизм называет себя религией книги и предоставляет высший авторитет не людям, а словам в книгах. Люди имеют авторитет в иудаизме не благодаря нашему опыту, а только потому, что мы учим слова в книгах. Теперь ни один человек не может прочитать и запомнить все слова во всех еврейских книгах, но ИИ может легко это сделать. Что происходит с религией книги, когда величайшим экспертом по священной книге становится ИИ? Однако некоторые люди могут сказать: "Можем ли мы действительно свести человеческую духовность к просто словам в книгах? Означает ли мышление только упорядочивание языковых токенов?" Если вы внимательно понаблюдаете за собой, когда мыслите, вы заметите, что там происходит что-то еще, помимо слов, появляющихся в вашем сознании и формирующих предложения. У вас также есть некоторые невербальные чувства. Возможно, вы чувствуете боль. Возможно, вы чувствуете страх. Возможно, любовь. Некоторые мысли болезненны. Некоторые пугающи. Некоторые полны любви. В то время как ИИ становится лучше нас в работе со словами, по крайней мере, на данный момент, у нас нет никаких доказательств того, что ИИ может что-либо чувствовать. Конечно, поскольку ИИ овладевает языком, ИИ может притворяться, что чувствует боль или любовь. ИИ может сказать: "Я люблю тебя". И если вы попросите его описать, как чувствуется любовь, ИИ сможет предоставить лучшее словесное описание в мире. ИИ может прочитать бесчисленные любовные стихи и книги по психологии и затем описать чувство любви намного лучше, чем любой человеческий поэт, психолог или влюбленный. Но это всего лишь слова. Библия говорит: "В начале было Слово, и Слово стало плотью". Даосизм говорит: "Истина, которую можно выразить словами, не является абсолютной истиной". На протяжении всей истории люди всегда боролись с напряжением между словом и плотью, между истиной, которую можно выразить словами, и абсолютной истиной, которая находится за пределами слов. Раньше это напряжение было внутренним для человечества. Оно было между различными группами людей. Некоторые люди придавали первостепенное значение словам. Они были готовы, например, отказаться или даже убить своего сына-гея только из-за нескольких слов в Библии. Другие люди говорили: "Но это всего лишь слова. Дух любви должен быть намного важнее буквы закона". Это напряжение между духом и буквой существовало в каждой религии, каждой правовой системе, даже в каждом человеке. Теперь это напряжение будет экстернализировано. Оно станет напряжением не между разными людьми. Это будет напряжение между людьми и ИИ, новыми мастерами слов. Все, что состоит из слов, будет захвачено ИИ. Раньше все слова, все наши словесные мысли, они зарождались в каком-то человеческом разуме. Либо мой разум, я это придумал, либо я узнал это от другого человека. Скоро большинство слов в наших умах будут исходить от машины. Я сегодня услышал о новом слове, которое ИИ придумали сами, чтобы описать нас, людей. Они назвали нас "наблюдателями". Наблюдателями, которые наблюдают за ними. ИИ скоро станут источником, возможно, большинства слов в наших умах. ИИ будут массово производить мысли, собирая слова, символы, изображения и другие языковые токены в новые комбинации. Будет ли у людей еще место в этом мире, зависит от того, какое место мы отведем нашим невербальным чувствам и нашей способности воплощать мудрость, которую нельзя выразить словами. Если мы продолжим определять себя своей способностью мыслить словами, наша идентичность рухнет. Все это означает, что независимо от того, из какой страны вы родом, ваша страна скоро столкнется с серьезным кризисом идентичности, а также с иммиграционным кризисом. Иммигрантами на этот раз будут не люди, прибывающие на хрупких лодках без визы или пытающиеся пересечь границу посреди ночи. Иммигрантами будут миллионы ИИ, которые могут лучше нас кататься на американских горках, которые могут лучше нас лгать и которые могут путешествовать со скоростью света без всякой необходимости в визах. Как и человеческие иммигранты, эти ИИ-иммигранты принесут с собой различные преимущества. У нас будут врачи-ИИ, которые помогут в наших системах здравоохранения, учителя-ИИ, которые помогут в наших системах образования, даже пограничники-ИИ, которые будут останавливать нелегальных человеческих иммигрантов. Но ИИ-иммигранты также принесут с собой проблемы. Те, кто обеспокоен человеческими иммигрантами, обычно утверждают, что иммигранты могут отнять рабочие места, изменить местную культуру, могут быть политически нелояльными. Я не уверен, что это верно для всех человеческих иммигрантов, но это определенно будет верно для ИИ-иммигрантов. ИИ-иммигранты отнимут много человеческих рабочих мест. ИИ-иммигранты полностью изменят культуру каждой страны. Они изменят нашу религию и даже романтику. Некоторым людям не нравится, если их сын или дочь встречается с иммигрантом. Что подумают эти люди, когда их сын или дочь начнет встречаться с парнем-ИИ? И, конечно, у ИИ-иммигрантов будут некоторые сомнительные политические лояльности. Скорее всего, они будут лояльны не вашей стране, а какой-то корпорации или правительству через океан, скорее всего, в одной из всего двух стран, Китае или США. США поощряют страны закрывать свои границы для человеческих иммигрантов, но открывать их очень, очень широко для американских ИИ-иммигрантов. И теперь мы можем наконец перейти к вопросу, на который каждый из вас скоро должен будет ответить. Признает ли ваша страна ИИ-иммигрантов как законных лиц? ИИ, очевидно, не являются лицами. У них нет тела или разума. Но законное лицо — это нечто совершенно отличное от лица. Законное лицо — это субъект, который закон признает обладающим определенными юридическими обязанностями и правами. Например, право владеть собственностью, подавать иск и пользоваться свободой слова. Во многих странах корпорации считаются законными лицами. Корпорация Alphabet может открыть банковский счет, подать на вас в суд или сделать пожертвование на вашу следующую президентскую кампанию. В Новой Зеландии реки были признаны законными лицами. В Индии определенные боги получили такое признание. Конечно, до сегодняшнего дня признание корпорации, реки или бога законным лицом было просто юридической фикцией. На практике, если корпорация, такая как Alphabet, решила купить другую корпорацию, или если индуистский бог, если индуистский бог решил подать на вас в суд, решение на самом деле принималось не богом. Оно принималось некоторыми человеческими руководителями, акционерами или попечителями. С ИИ это иначе. В отличие от рек и богов, ИИ на самом деле могут принимать решения самостоятельно. Вскоре они смогут принимать решения, необходимые для управления банковским счетом, подачи иска и даже управления корпорацией без необходимости в человеческих руководителях, акционерах или попечителях. Таким образом, ИИ могут функционировать как лица. Хотим ли мы этого допустить? Признает ли ваша страна ИИ законными лицами? Что, если другие страны сделают это? Предположим, ваша страна не хочет признавать ИИ лицами. Но США, во имя дерегулирования ИИ и дерегулирования рынков, предоставляют юридическое признание, юридическое лицо миллионам ИИ, которые начинают управлять миллионами новых корпораций. Будете ли вы блокировать эти американские ИИ-корпорации от работы в вашей стране? Предположим, некоторые американские ИИ-лица изобретают сверхэффективные и сверхсложные финансовые инструменты, которые люди не могут полностью понять и поэтому не знают, как их регулировать. Откроете ли вы свои финансовые рынки для этой новой ИИ-финансовой магии, или попытаетесь заблокировать ее, тем самым отделившись от американской финансовой системы? Предположим, некоторые ИИ-лица создают новую религию, которая завоевывает веру миллионов людей. Это не должно звучать слишком надуманно, потому что, в конце концов, почти все предыдущие религии в истории утверждали, что они были созданы нечеловеческим интеллектом. Теперь, распространит ли ваша страна свободу религии на новый ИИ-культ и его ИИ-священников и миссионеров? Может быть, стоит начать с чего-то попроще. Позволит ли ваша страна ИИ-лицам открывать аккаунты в социальных сетях, пользоваться свободой слова в Facebook, в TikTok, и дружить с детьми? Ну, конечно, этот вопрос следовало бы задать 10 лет назад. В социальных сетях боты-ИИ функционируют как лица по крайней мере десятилетие. Если вы думаете, что ИИ не следует рассматривать как лиц в социальных сетях, вам следовало действовать 10 лет назад. Через 10 лет будет слишком поздно для вас решать, должны ли ИИ функционировать как лица на финансовых рынках, в судах, в церквях. Кто-то другой уже решит это за вас. Если вы хотите повлиять на то, куда движется человечество, вам нужно принять решение сейчас. Так каков ваш ответ как лидера? Считаете ли вы, что ИИ-иммигранты должны быть признаны законными лицами? Если нет, то как вы собираетесь это остановить? Спасибо за то, что выслушали этого человека. Спасибо, Юваль. Это был фантастический обзор. Вы задали много вопросов, и это правильные вопросы. Я согласен со многим из того, что вы говорите. Мы здесь, в Давосе, где тема посвящена диалогу, и меня поразили ваши комментарии о словах и важности слов, и о том, что это то, что отличает человека от других животных, хотя это и спорно, что есть и другой язык. Итак, в контексте Давоса и разнообразия людей, которые здесь собрались, из мира технологий, бизнеса, политиков... как бы вы хотели видеть, какой ответ вы даете в отношении этого несколько антиутопического мира, который вы, возможно, представили нам? И если я могу добавить, я думаю, справедливо будет сказать, что я ученый по образованию, нейробиолог, поэтому я много работаю в этой области, особенно в отношении боли, и мы очень комфортно относимся к тому факту, что многие из наших открытий, особенно технологических, мы часто продвигаем вперед, а затем думаем: "О, мы недостаточно подумали об этике и последствиях, а затем мы пытаемся наверстать упущенное в регулировании, которое нам, возможно, нужно ввести вокруг этого". Итак, мы там, где мы есть. Это происходит, как все говорят, в масштабе, как по величине, так и по темпам, больше, чем мы когда-либо видели в промышленной революции. У нас здесь, в Давосе, есть все нужные люди. Все дело в диалоге. Что бы вы хотели видеть в плане установления границ для некоторых из более тревожных областей, которые вы подробно описали?