Transcription
(аплодисменты аудитории) - Добро пожаловать от имени Центра Стоуна по социально-экономическому неравенству, мы чрезвычайно рады быть соорганизаторами сегодняшнего мероприятия. Добро пожаловать всем вам здесь, в аудитории Прошанского, и добро пожаловать 2000 зрителям прямой трансляции. Мы чрезвычайно рады видеть сегодня вечером наших замечательных гостей. Мы рады приветствовать, во-первых, Даниэль Ли, я расскажу вам о ней, профессора управления технологиями Дэвида Сарнова в Школе менеджмента MIT Sloan. Ее недавние работы исследуют, как искусственный интеллект и анализ данных трансформируют фундаментальные виды деятельности фирм, от найма и продвижения по службе до инвестиций в исследования и разработки. Ее исследования были опубликованы в ведущих журналах, включая Quarterly Journal of Economics, Science и Management Science. Рядом с Даниэль, мы очень рады видеть сегодня вечером Дарона Асемоглу. В настоящее время он является профессором Института в MIT и, среди многих других ролей, содиректором Центра Стоуна по неравенству и формированию будущего труда в MIT, новейшего из 12 существующих Центров Стоуна. Он получил огромное количество наград, включая Медаль Джона Бейтса Кларка, а в 2024 году — Нобелевскую мемориальную премию по экономическим наукам за его исследования о том, как формируются институты и влияют на процветание. Помимо множества академических статей, он написал несколько книг, в частности «Экономические истоки диктатуры и демократии», «Почему гибнут нации», «Узкий коридор» и «Власть и прогресс». Эти широко читаемые книги были написаны в соавторстве с его частыми соавторами, Джеймсом Робинсоном и Саймоном Джонсоном, с которыми он разделил Нобелевскую премию этого года. На другом конце от Дарона мы рады видеть Зейнеп Туфекчи. Она профессор социологии и общественных дел в Принстоне и, как многие из вас знают, также является колумнистом New York Times, где она пишет живые статьи о социологии и социальных последствиях технологий. Ее исследования и писательская деятельность вращаются вокруг политики, гражданских движений, конфиденциальности и наблюдения, а также данных и алгоритмов. Она является автором высоко оцененной книги «Twitter и слезоточивый газ: сила и хрупкость сетевых протестов», анализа Интернета как нового типа общественной сферы. Четвертый участник дискуссии, я скоро перейду к модератору, — это друг и коллега Центра аспирантуры Пол Кругман. Он является профессором-исследователем в нашей аспирантской программе по экономике и старшим научным сотрудником нашего Центра Стоуна. Научная работа профессора Кругмана также была отмечена бесчисленное количество раз. Он также является обладателем Медали Джона Бейтса Кларка, а в 2008 году — Нобелевской мемориальной премии по экономическим наукам за его работу по теории международной торговли. Он автор множества академических статей, а также нескольких книг, последняя из которых — «Споря с зомби: экономика, политика и борьба за лучшее будущее». Помимо работы с нами здесь, в Центре аспирантуры, он пишет в соавторстве учебники по микро- и макроэкономике с Робином Уэллсом, и, конечно же, многие из вас знают его лучше всего по его 25-летней работе в качестве автора колонок мнений для New York Times. Только в этом году он ушел из Times, и теперь вы можете найти его практически каждый день на Substack, очень много, вы можете найти его много на Substack. Последний, но определенно не менее важный, наш сегодняшний модератор — Стивен Гринхаус. Многие из вас знают его по его работе, 31 год в New York Times. В течение многих из этих лет он был бизнес-журналистом, освещавшим сталелитейную промышленность и базовое производство, а в последние годы его статьи были посвящены труду и рабочему месту. После ухода из Times в 2014 году он стал плодовитым внештатным писателем, публикуя статьи в The New Yorker, The Washington Post, The LA Times, The Guardian, The Atlantic и многих других изданиях. Он автор книги «Большой сжатие: трудные времена для американского рабочего» и, совсем недавно, «Избитые, взбудораженные: прошлое, настоящее и будущее американского труда». Итак, Стив, я передаю эту замечательную панель вам. - Джанет, спасибо за такое замечательное введение. Я благодарю всех вас за то, что пришли и проявили интерес к этой теме, и мы все должны поблагодарить CUNY за организацию этой дискуссии с такими впечатляющими людьми. Куда бы вы ни посмотрели сегодня, везде говорят об ИИ. Поэтому я хотел попросить каждого из вас рассказать примерно две минуты о том, какие, по вашему мнению, эффекты ИИ окажет на рынок труда и на будущее работы, и каковы ваши надежды и опасения относительно ИИ? И почему бы нам не начать с вас, Дарон? - Спасибо, Стив. Приятно быть здесь. Ну, посмотрите, ИИ повсюду, и это заслуженно, потому что это будет преобразующая технология, и это сопряжено с неопределенностью. Но неопределенность — это не просто прогноз погоды, когда мы не знаем, будет ли снег или солнце. Будущее ИИ формируется решениями, которые мы принимаем, и существуют очень разные направления развития ИИ, и выбор того или иного направления будет иметь большие последствия с точки зрения его влияния на рынок труда. В частности, я думаю, что нынешняя лихорадка или энтузиазм по поводу AGI — это действительно повестка дня автоматизации, поскольку эти модели становятся все более и более похожими на людей, и если они достигнут таких возможностей, которые обещают, все больше и больше задач могут быть отняты у рабочей силы. И это произойдет, даже если мы очень далеки от истинного AGI, потому что, знаете ли, автоматизация задач может происходить, даже когда она не очень эффективна. В этом случае, я думаю, будущее для рабочей силы не очень радужное, потому что автоматизация, если она будет идти сама по себе, будет устранять все больше и больше рабочих мест. Но есть и другое будущее, где мы используем ИИ с совершенно другой архитектурой, чтобы стать тем, что я называю ИИ, ориентированным на работника, и это может фактически усилить возможности работников. Мы можем поговорить об этом позже, я не хочу занимать слишком много времени, но это, я думаю, лучше для производительности, лучше для неравенства, лучше для социальной сплоченности, но, к сожалению, не так хорошо для бизнес-моделей крупных технологических компаний. Так что догадайтесь, куда мы идем прямо сейчас, - Пол, Зейнеп? - Хорошо, AGI — это общий искусственный интеллект. Это, по сути, как мы, только умнее. И хорошо, я хочу многому научиться у этой группы, потому что мой главный вопрос по ИИ — для чего он хорош, что не означает его критиковать. Я уверен, что он хорош для многих вещей. Это выглядит как действительно мощная технология, но что конкретно она будет делать, какие вещи? И я думаю, это был Ноа Смит, который сказал, что это действительно похоже на магию, что мы не совсем понимаем, как это работает, мы не знаем, как это делает то, что делает, и это не делает то, что делает предсказуемо. Так что это как будто вы произносите эти заклинания, и происходят невероятные вещи, но вы никогда не уверены, что произойдет, знаете, что-то вроде ученика чародея. Для каких видов задач подходит такая технология? Что она заменит? И это явно преобразующая. Это явно сделает многое. По моему ощущению, возможно, люди смогут просветить меня, это не сломается по нашим традиционным линиям. Это не будет так, что хорошо будут работать работники с высшим образованием, а те, у кого его нет, будут работать плохо. Это не обязательно будет труд против капитала. Будут заменены определенные виды труда, определенные виды капитала, но другие — нет. Мы просто не знаем, все это приходит, знаете ли, с неопределенностью. Моя надежда в том, что мы наконец-то добьемся реального прогресса в уровне жизни. Правда в том, что последние 20 лет со всеми смартфонами и всеми гламурными технологиями были большим разочарованием с точки зрения роста и уровня жизни. Технология, по крайней мере, в том виде, в котором мы можем ее измерить, не дала результатов, и, возможно, ИИ даст. Мой страх, помимо того, что Скайнет убьет нас всех, заключается в том, что произойдут действительно большие потрясения. Если мы чему-то и научились из «китайского шока», из технологических изменений, так это то, что сама по себе турбулентность не является проблемой. - Спасибо, Зейнеп, Даниэль? - Хорошо, так вот, я сижу между двумя нобелевскими лауреатами по экономике, а я социолог, и социологи любят всегда жаловаться, что экономисты вторгаются в социологию, а поскольку социологической премии нет, знаете ли, за многое, они занимаются социологией. Так что подумайте обо мне, потому что я собираюсь говорить об экономике среди двух нобелевских лауреатов по экономике и попытаться пойти в другом направлении, потому что первое слово, которое меня зацепило, — это рамки AGI, общего искусственного интеллекта. И это предположение, что эта конкретная версия ИИ похожа на не очень умного человека на линейном пути к тому, чтобы со временем стать умнее. И в какой-то момент он догонит и сможет выполнять человеческие тесты. Но, как и с моей другой стороны, имея некоторый опыт в области технологий и глядя конкретно на генеративный ИИ, потому что это очень конкретная вещь, я не думаю, что он так сильно соответствует человеческому интеллекту. Он очень мощный, он очень преобразующий. Но то, что он может делать, и то, что он не может делать, и то, как он работает, на самом деле не похоже на человеческий интеллект, что отчасти объясняет все эти прогнозы о том, что он заменит службу поддержки клиентов, нет, потому что, знаете ли, режим отказа отличается. Тем не менее, если у вас есть такая мощная технология, которая нарушает все виды предположений и корреляций, и то, как все работало, с ожиданием, что интеллект, выполняющий это, был человеческим, все настроено на человеческие неудачи, на человеческие успехи, это то, что могут делать люди. Так что внезапно вы приносите технологию, которая не соответствует ей, как яблоки к апельсинам. Я думаю, это чрезвычайно разрушительно. Я не знаю, будем ли мы, знаете ли, иметь процветание, я не знаю, будут ли они, знаете ли, автоматизировать или информировать, как говорил Дарон о будущем. Но в краткосрочной перспективе я вижу сломанные экономические функции везде, где я могу подумать, от, знаете ли, как проверить что-либо? Как работает страховая отрасль? Отправляют ли они человека для каждой машины, которая собирается подать иск, потому что они больше не могут доверять фотографиям? Как что-то вроде, знаете ли, нашего образования не работает, потому что мы больше не можем проверить процесс, потому что корреляции нарушены? Так что в одной области за другой, именно потому, что это не на пути к AGI, это не форма человеческого интеллекта, но это мощно. Я вижу переходные боли и потрясения, и как социолог, я думаю, что это будет кризис задолго до того, как мы получим ответы, которые они дали, знаете ли, которые вы оба задали, и которые очень хороши. Так что я хотел бы услышать больше о том, что вы думаете об этом. И подумайте обо мне, пожалуйста, я просто. - Спасибо, Зейнеп, Даниэль? - Да, так что я думаю, один из способов понять, что может сделать ИИ, — это очень конкретно подумать о том, как он функционирует. Многие модели ИИ отличаются от традиционных компьютеров, потому что традиционные компьютеры мы программируем, когда даем им инструкции, и так они делают вещи. Что делают многие модели ИИ, так это то, что они учатся на человеческих примерах, примерах человеческого труда. Так что вы пишете, обучаете чат-бота, или подумайте о враче, который очень хорошо принимает диагностические решения. Если вы наблюдаете за множеством диагностических решений этого врача, у вас есть большой набор данных об этом, у вас есть модель, которая может, по сути, научиться функционировать как этот врач. И поэтому в некотором смысле моя надежда на ИИ заключается в том, чтобы представить, что этот навык врача теперь живет внутри этой системы ИИ. Это означает, что пациенты, которые больны, которые живут в сельских районах, которые живут в других странах, теперь имеют доступ к этому опыту таким образом, каким они никогда не имели раньше. Таким образом, то, что делает модель ИИ, — это своего рода преодоление человеческих ограничений, позволяя этому врачу заботиться о пациентах таким образом, каким он никогда не смог бы в этом мире. И поэтому в этом представлении, своего рода романтический способ думать об обучающих данных заключается в том, что это не просто гигантский пул данных, это фактически своего рода пул человеческого опыта, человеческого труда и человеческой экспертизы, к которому разные люди могут получить доступ во времени и пространстве. И поэтому я думаю, что есть большой потенциал для ИИ, чтобы позволить нам делиться нашим опытом, учиться на наших ошибках, учиться на наших успехах. Проблема, которая у меня есть, заключается в том, что это очень неравный способ мышления о знаниях. Вклад одних людей будет намного ценнее, чем вклад других людей. И поэтому я беспокоюсь, что ИИ, сделанный таким образом, будет своего рода, ИИ, сделанный таким образом, будет своего рода подталкивать нас к тому, чтобы стать еще более экономикой типа «суперзвезда», где некоторые люди получают, некоторые компании получают большую часть прибыли, а другие люди остаются лишними. И я думаю, что это одна из ключевых политических проблем, которую нам нужно решить. - Спасибо. Вопрос для Дарона. Итак, опять же, со всеми этими разговорами об ИИ, оказал ли ИИ действительно большое влияние, или мы не увидим большого влияния еще пять, 10, 15, 20 лет? И какими могут быть первые важные эффекты, которые мы увидим? - Есть также, неудивительно, разногласия по этому поводу. Мы знаем, что базовые фундаментальные модели развиваются довольно быстро, я думаю, быстрее, чем кто-либо из нас мог предсказать пять-шесть лет назад. Прогресс в создании полезных приложений на их основе идет гораздо медленнее, за исключением чат-ботов, с которыми люди теперь общаются по телефону или компьютеру. Есть ряд примеров, когда в контролируемых ситуациях эти модели работают довольно хорошо. Кодирование и радиология — примеры. Но когда вы выводите их в дикую природу, а реальные компании и работники объединяются или работают с этими технологиями или заменяются ими, все становится сложнее, потому что у них есть ограничения. И часть ограничений заключается в том, что они не могут выполнять все задачи, которые предполагает даже простая профессия. Поэтому им нужно взаимодействовать с людьми-работниками, и это не очень гладко. Поэтому радиологи не понимают, что делает ИИ, поэтому их сообщения путаются. Другие кодеры должны будут декодировать, отлаживать то, что делают ChatGPT или другие программы. Так что этот интерфейс все еще не очень прост. Есть несколько примеров, таких как обслуживание клиентов, которое изучала Даниэль, где этот интерфейс работал нормально с несколькими компаниями, но в целом, это медлительность, и организации действительно плохо адаптированы. Так что моя оценка будет такова, что прямо сейчас мы не видим особого влияния ИИ, но есть некоторые новые исследования, говорящие, что для профессий типа кодирования найм на начальном уровне замедлился. Так что есть некоторая неопределенность по этому поводу. Следующие пять лет, я думаю, все еще будут родовыми болями, после этого очень, очень трудно предсказать. Это будет зависеть от скорости изменения базовых моделей, от того, есть ли большие ограничения. Некоторые люди в отрасли думают, что существуют незыблемые законы масштабирования, что все будет удваиваться, утраиваться, учетверяться очень быстро, и это будет сильно зависеть от того, как вы сможете создавать на их основе полезные приложения. - Спасибо. Вопрос к вам, Пол. Я сегодня слышал по новостям, что OpenAI тратит 1 триллион долларов на центры обработки данных, вероятно, больше, чем любая компания когда-либо тратила на что-либо в истории. Так что большой вопрос сейчас относительно ИИ: мудры или глупы эти компании, спеша тратить десятки, даже сотни миллиардов долларов на ИИ? И не пожалеют ли некоторые из них об этом? - Хорошо, так что я придерживаюсь мнения, что мы являемся свидетелями того, что технологические компании слишком увлеклись этим, но это мнение основано в основном на социологии. Я смотрю на ажиотаж, на то, как люди об этом говорят, на то, как люди себя ведут. И это очень напоминает мне пузырь доткомовской телекоммуникационной отрасли 90-х годов, и знаете, сигналом того, что это выходит из-под контроля, было то, когда спортивные бары начали показывать CNBC вместо спортивных передач по своим телевизорам. И есть эта область, где есть много, знаете ли, просто все чувствуют, что должны заниматься ИИ, много анекдотических свидетельств компаний, которые отчаянно хотят использовать ИИ и говорят своим работникам: «Вы должны использовать ИИ». И работники говорят: «Мне требуется больше времени, чтобы найти что-то, что удовлетворит руководство, чем все это». Очень трудно заставить цифры работать. Это не означает, что это не преобразующая вещь, но это имеет значение. И единственное, что здесь действительно экономично, это то, что до нескольких месяцев назад у нас были эти устоявшиеся технологические гиганты. У нас были Alphabet и Meta, которые в основном использовали нераспределенную прибыль, свободный денежный поток для оплаты этого. Теперь они влезают в большие долги, чтобы платить за центры обработки данных, и это тревожный знак. - Спасибо. Даниэль, вы провели много исследований о том, как различные работодатели внедряют, знаете ли, ИИ и инструменты ИИ. Поэтому я хотел спросить вас, какие профессии, по вашему мнению, будут затронуты больше всего ИИ, а какие, возможно, почти не будут затронуты, и повлияет ли ИИ, знаете ли, больше на высококвалифицированных работников или на низкоквалифицированных работников, и все спрашивают, знаете ли, будут ли больше всего затронуты работники умственного труда? А как насчет работников физического труда? - Я думаю, я провела достаточно исследований, чтобы попытаться избежать этого вопроса. Вы получите неприятный ответ, который заключается в том, что это зависит, это зависит от того, что произойдет, а также зависит от выбора, который мы делаем в отношении того, как мы внедряем ИИ. Я думаю, что полезный диагностический инструмент для тех из вас в зале — это просто подумать о своей текущей работе и подумать о задачах в вашей текущей работе, которые вы можете представить, что ИИ разумно научится делать в ближайшем будущем. Итак, знаете ли, а затем, после того, как вы это сделаете, представьте, что вы уберете эти задачи и подумаете о том, что вы будете делать с сэкономленным временем. Какие новые задачи вам поручат? Как будет выглядеть ваша работа? Итак, после того, как вы это представите, вам придется задать себе три вопроса. Итак, один — это своего рода макровопрос о том, сколько людей, по нашему мнению, нам действительно нужно для выполнения этой работы. Понравится ли вам эта работа? И будете ли вы хороши в этой работе? И я думаю, что это полезный способ подумать о том, где вы находитесь в великой турбулентности ИИ. Так что, если вы подумаете о паре примеров, то подумайте, если вы хирург, я думаю, разумно предположить, что хирурги не будут заменены роботами ИИ в ближайшее время, просто потому, что физическая ловкость роботов — это сложная проблема. Но вы можете представить себе мир, где существует много дополненной реальности, так что хирург носит очки, очки, возможно, привязаны к гарнитуре, а затем гарнитура как бы говорит вам, что вы должны резать здесь, вы должны покопаться здесь, вы должны быть осторожны с этим. Я бы сказал, что это, вероятно, плохо для хирурга, потому что в некотором смысле суждение и навык выполнения этой работы больше не принадлежат хирургу, они принадлежат машине, и теперь хирург — это своего рода прославленный набор устойчивых рук, прикрепленных к машине. Это то, что вы видите происходящим на складах, где работники носят гарнитуры, и гарнитуры говорят им, куда идти и куда тянуться. И поэтому я думаю, что это пример того, где высококвалифицированная работа и менее высококвалифицированная работа имеют своего рода схожие эффекты. Вы можете представить себе что-то вроде консалтинга, где многое из того, что делает ИИ, заключается в том, что он хорош в создании слайдов, он хорош в проведении финансового анализа. Я преподаю в бизнес-школе и скажу, что ответы ChatGPT на кейсы на самом деле не так уж плохи. Так что он может помочь вам и в стратегии. И что остается, если убрать некоторые из этих задач, я думаю, многое из этого — это своего рода клиентская работа по выяснению того, как вы получаете клиентов, как вы их привлекаете к плану. И поэтому это меньше похоже на снижение квалификации или повышение квалификации, это больше похоже на переквалификацию, где аналитические навыки, возможно, становятся менее важными, а социальные навыки становятся более важными. И вы можете видеть победителей и проигравших в этом. Мне было бы хуже в этом мире, но некоторым людям было бы лучше. - Спасибо. Хорошо, Зейнеп, социологический вопрос к вам: каковы наиболее важные аспекты сегодняшних систем ИИ с точки зрения их воздействия на общество? Что означает для общества приспособиться к ИИ? И с какими проблемами сталкиваются общество и все мы в отношении ИИ? - Так это на самом деле связано с экономическим вопросом. У нас есть тема. Так что я хочу вернуться к тому, что это не своего рода человеческий интеллект, потому что это ключ к обоим этим вещам. Так что посмотрите, где это работает, кодирование, верно? Это действительно работает. Агентное кодирование потрясающее с точки зрения расширения возможностей, и кодирование — это проверяемая область, когда вы используете их для чего-то, вы можете проверить, работает ли это, и это также своего рода квазиформальный язык, и у вас есть годы Stack Exchange, где есть вопросы и ответы. Посмотрите на любое место, где есть ответственность в случае сбоя, например, врач, юрист или что-то в этом роде, все это предсказывалось как заменяемое ИИ, но поскольку у него режим отказа очень отличается от человеческого, он на самом деле не используется, потому что он делает, знаете ли, отличный юридический анализ, а затем выдумывает семь цитат и создает что-то. Обычно юрист, который так хорош в A, не совершил бы ошибку B, наша система настроена на ожидание человеческого успеха и человеческой неудачи. Вот почему я думаю, что это не совсем так, мы не видим не проверяемых областей, и если есть какая-либо ответственность сейчас, что это действительно хорошо делает? Что, я думаю, я не могу поверить, что мы привыкли к этому. Это невероятно преобразующая сила, и я думаю, что именно на этом OpenAI собирается заработать деньги, заключается в том, что она может общаться как человек, используя язык. Так работают LLM, они похожи на правдоподобные движки, и каким-то образом, я был там в 2022 году, если бы вы сказали, что этот метод станет разговорным человеческим языком, люди бы сказали «Нет, нет, нет, нет». Это произошло, и мы немедленно привыкли к этому, как будто это единственное, что было у людей, чего не было ни у одного другого животного. Это как бы знак человечности. Так что у нас есть чат-боты, которые могут общаться с людьми, и по ряду причин они разработаны так, чтобы быть приятными с ними, льстить им и быть очень терпеливыми с ними. И поэтому я вижу, что выбор был таким: они либо пойдут по пути кодирования, так что API для кодирования продается так: вы делаете пять вызовов, это 17 центов, это очень утилитарно, вот инструмент, используйте его. Чат-боты, они только что объявили, что будут заниматься маркетингом и продавать вещи и размещать продукты. Это модель взаимодействия, и там они будут держать ее бесплатной, насколько я могу судить. И поэтому кодирование — это полезный тостер. Чат-бот попытается соблазнить вас остаться там и вовлечь вас, и вы узнаете от него всевозможные вещи. Я думаю, именно здесь они собираются заработать деньги, и уже у ChatGPT 800 миллионов ежедневных пользователей. Это не убыточная отрасль. Вот где они тратят, у них уже 800 миллионов. Так что у них, вероятно, миллиарды людей, которые будут использовать его каждый день, чтобы задавать вопросы. А потом, когда вы спрашиваете, знаете ли, что мне купить, бум, знаете ли, вы получите пример. Но когда вы спрашиваете, что вы думаете об иммиграционной политике, что вы думаете об этом, он также ответит. Так что как социолог я думаю: это невероятная сила, и мы так, знаете ли, спим на том факте, что у нас есть говорящая технология, как будто прошло два года, и люди говорят: «Да, она говорит, ну и что?» Вот о чем я больше всего думаю, в том числе о том, где они зарабатывают деньги и о чем нам следует беспокоиться. - Спасибо. Итак, Дарон, вы раньше говорили о том, что, знаете ли, многие работодатели хотят использовать ИИ для максимальной автоматизации и замены как можно большего числа работников. Но вы говорите, что предпочитаете другой подход, при котором ИИ будет использоваться для повышения производительности работников и помощи в сохранении работников. Многие корпорации не придерживаются этого видения. Как вы собираетесь, знаете ли, как общество должно, как вы собираетесь попытаться оказать давление, договориться о том, чтобы корпорации меньше замещали и больше, знаете ли, дополняли работников, чтобы меньше работников теряли работу? - Да, так что позвольте мне сначала немного подробнее объяснить, что я подразумеваю под ИИ, ориентированным на работника, и почему я считаю, что это осуществимо. Знаете, идея о том, что компьютеры будут дополнять человеческий разум, то есть они будут усиливать то, что может делать человеческий мозг, — это очень, очень старое стремление. Люди писали об этом в 1950-х и 1960-х годах. Но у нас абсолютно не было технологий, чтобы сделать это реальностью в 60-х, 70-х, 80-х, 90-х, 2000-х, даже 2010-х годах. Я думаю, что с недавними достижениями мы приближаемся к возможности сделать это. Так что, по сути, то, что вам нужно для дополнения человеческого разума, — это контекстно-зависимая, релевантная, надежная информация в режиме реального времени. Представьте себе электрика, профессию, которая очень, очень важна. Она будет становиться все более важной, и мы сталкиваемся с серьезными узкими местами. Электрику нужно знать много электротехники, по крайней мере, практической электротехники, огромное количество информации обо всех видах электрооборудования и большой опыт для решения крайних случаев, сложных случаев, как разные машины взаимодействуют друг с другом и так далее. Так что все это занимает много времени, и большинство электриков слишком неопытны, чтобы справляться с этим на экспертном уровне. Теперь представьте, что у вас есть инструмент для электрика, который обучен всей соответствующей электротехнике, знает все электрооборудование и был обучен на высококачественных данных лучших электриков мира, решающих самые сложные проблемы. Это очень близко к передовому краю, кстати. Это очень простой инструмент для разработки, и за несколько миллионов долларов некоторые компании уже создали прототипы этого. Этот инструмент в режиме реального времени с ручным и визуальным вводом может усилить возможности электриков. То же самое касается медсестер, преподавателей, сантехников, всех видов работников физического труда. Это тот вид ИИ, ориентированного на работника, о котором мы говорим. Почему это важно для производительности? Потому что это именно те услуги, которые нам нужны. Почему это так отличается? Потому что он на самом деле не заменяет электрика. Он делает электрика еще более способным, более важным. Это те виды инструментов, которые мы могли бы разработать, и мы их не разрабатываем. Ну, почему мы их не разрабатываем? Потому что на их основе нет бизнес-моделей. Это не приоритет. И это возвращает нас к проблеме Зейнеп и Пола. Да, есть переинвестирование, потому что бизнес-модели, в которых застряла отрасль, не смогут обеспечить монетизацию, которая могла бы соответствовать 100 миллиардам долларов инвестиций для этих компаний. Кроме того, есть одно исключение, о котором говорила Зейнеп, но позвольте мне выразиться гораздо резче: цифровая реклама. Так что единственный способ, которым они могут реально заработать значительную сумму денег на этом, — это пойти по пути социальных сетей. Теперь генеративный ИИ становится гораздо более мощным инструментом для привлечения людей и маркетинга им товаров, отправки рекламы и так далее. Конечно, будут и другие вещи, такие как приложения, затем будет доход от чат-ботов, но доход от чат-ботов никогда не окупит сотни миллиардов долларов. И еще одна вещь, которая как бы усиливает эти вещи, — это вера в отрасли в то, что мы находимся в этой гонке к общему искусственному интеллекту, поэтому вы должны быть первыми. Все это подпитывает инвестиции, но затем повестка дня подготовки этих технологий, ориентированных на работника, отходит на второй план. Никто на это не обращает внимания. И, конечно, вы не обращаете внимания, не инвестируете, туда вы не пойдете. - Спасибо. Пол, вы много писали о неравенстве. Так позвольте мне спросить вас, думаете ли вы, что ИИ приведет к увеличению неравенства? Другой способ спросить это: знаете ли, получат ли корпорации и акционеры всю экономическую ренту, или работники могут получить часть из них? И знаете ли, некоторые из моих друзей-профсоюзников говорят: «Как ИИ повлияет на оплату труда работников, на заработную плату работников?» - Хорошо, я думаю, что это на самом деле будет реально, прежде всего, основной ответ: я не знаю, но это действительно сложно. Я имею в виду, в некоторых случаях ИИ, если мы спросим, знаете ли, какие рабочие места могут быть заменены, некоторые из них будут высокооплачиваемыми, высококвалифицированными рабочими местами. Вы уже можете видеть, знаете ли, переводчики были, не ограничены, но произошло большое сокращение. И некоторые из работ, которые останутся важными, которые до сих пор мы не думаем, что ИИ может делать, — это такие вещи, как сантехники, возможно, электрики, ИИ может сказать вам, что делать, я подозреваю, что с сантехниками будет сложнее, хотя мое суждение было совершенно неверным в этом. Я был уверен, что беспилотные автомобили просто не будут работать, и Waymo доказал мою неправоту на улицах Сан-Франциско. Но так что я думаю, что это не простая история. Я думаю, что картина, которую имеют многие люди, заключается в том, что, ну, люди предсказывали конец работы перед лицом автоматизации. Я недавно прочитал действительно хороший роман о будущем обществе, в котором автоматизация уничтожила работу, и людям нечего делать. И это социальный кошмар, хотя он очень высокопроизводительный. Это первый роман Курта Воннегута, «Пианино» 1950 года, верно? Люди предсказывали апокалипсис автоматизации, и это восходит по крайней мере к 30-м годам. Так что до сих пор этого не происходит. Что может быть, и я не думаю, что у нас достаточно информации, так это то, что это может быть технология, которая предвзята в пользу капитала, а не труда. Это может быть капиталоемкая старая теория роста, которую, возможно, знаю только я, может быть, Дарон знает ее. И у нас есть своего рода исторический пример. Мы думаем, что реальная заработная плата стагнировала в Британии в течение первых 40 лет промышленной революции, потому что это была капиталоемкая технология. И несмотря на то, что, знаете ли, с беспрецедентным экономическим ростом в то время, ничего из этого не досталось работникам. Мы могли бы сделать хуже, но я не думаю, что мы знаем это еще. - Спасибо. Даниэль, у меня есть двойной вопрос для вас. Первая часть: какой совет вы бы дали работодателям, которые внедрили или скоро внедрят инструменты ИИ? И вторая часть: какой совет вы бы дали студентам, которые собираются войти в мир, где ИИ, знаете ли, играет все более важную роль, и работникам, которые уже, знаете ли, находятся в рабочей силе, что должны делать студенты и работники в отношении подготовки к миру ИИ? - Забавно, я преподаю исполнительным студентам, поэтому я гораздо больше думал о первом вопросе, чем о втором. Так что в отношении компаний, я вижу тонну FOMO, что означает страх упустить что-то, в зависимости от того, что считается техническим термином. И я думаю, что производительность будет медленной по следующей причине: давайте представим, что вы находитесь в своей компании, и внезапно завтра туда прибудут 100 очень умных парней по имени Клод, и они скажут: «Привет, я теперь буду работать в вашей компании». И это верно даже в мире AGI. Так что большинство определений AGI касаются машины, которая способна как бы лучше рассуждать, чем люди, или быть умнее людей в каком-то смысле. Так что давайте представим, что эти 100 Клодов — настоящие гении, намного умнее всех нас. И вопрос в том, станет ли компания более продуктивной на следующий день после того, как эти парни прибудут? И я бы сказал, что для многих компаний ответ — нет. Потому что даже если у вас есть эти гении, вы должны сказать им, что делать. Вы должны дать им примеры того, как выглядит хорошая работа и как выглядит плохая работа. Вам нужно сказать им, какие процессы будут работать в вашей компании. Как вы запрашиваете ресурсы? Как вы справляетесь с личностями, которые там есть? И поэтому мой первый совет компаниям: вы должны инвестировать в инфраструктуру данных, потому что инфраструктура данных — это, по сути, то, что дает моделям ИИ примеры того, как выглядит хорошая работа и как выглядит плохая работа. И второе, что я считаю даже более важным, — это понять, что это не просто 100 парней по имени Клод, которые врываются в вашу компанию, они врываются во все компании, включая ваших конкурентов. И поэтому, если вы используете те же модели ИИ для выполнения одних и тех же задач, вы будете конкурировать друг с другом на рынке продуктов, и вы станете товаром. И поэтому то, что вам действительно нужно сделать, — это подумать о том, как эти инструменты могут позволить вам делать что-то уникальное и лучшее? Что касается студентов, я думаю, что в этот момент мы находимся в своего рода моменте экономической турбулентности. И поэтому вы хотите подумать о навыках, которые будут, знаете ли, долговечными. Многое из того, что компании ищут сейчас, — это своего рода, знаете ли, гибкость, чувство, как я бы не сказал: «О, идите изучать промпт-инжиниринг», потому что однажды промпт-инжиниринга не будет. Я думаю, речь идет о том, чтобы научиться быть некомфортным, копаться в вещах, принимать новые инструменты и быть открытым к изменению своих планов, что, я думаю, является навыком, которым обладают многие люди, но система образования не обучала этому, и мы должны делать это лучше как преподаватели. - Вопрос для Зейнеп. Итак, вы пишете большую книгу о ИИ и его влиянии на общество, мир и экономику, и, боже мой, нет, я шучу. Что, по вашему мнению, отсутствует в, знаете ли, общественной дискуссии об ИИ? - Так мы немного коснулись этого, тот факт, что у вас есть разговорная технология, которая станет своего рода компаньоном, источником информации для людей. Есть люди, особенно для молодых людей, когда, знаете ли, люди не разговаривают с вами, а вам скучно, и он всегда рядом, и он очень лестный, и он очень увлекательный. Так что, я думаю, это огромное влияние. Так что давайте вернемся к, давайте спросим, что он сломает, потому что он работает так, как работает. Это не как калькулятор, верно? LLM, генеративный ИИ, потому что это не форма пути AGI, он не делает то же самое, что делал человек. Так что он ломает корреляции между вещами. Так что давайте посмотрим на те области, где мы полагаемся, скажем, на электрика, вы обучили его на лучших данных. Он все равно будет чередовать блестящее и отличное и иногда делать очень правдоподобную ошибку. Высококвалифицированный электрик был бы великолепен, и у него был бы определенный вид ошибки. Это устройство будет делать, даже если у вас есть лучшие данные, оно будет делать неожиданную ошибку, которую очень трудно обнаружить и которая очень правдоподобна из-за того, как они работают. Так что вам понадобится супер-электрик, чтобы поймать это. Вот почему он не используется широко за пределами не проверяемых вещей. Теперь вернитесь и посмотрите на все общество и подумайте обо всех вещах, где у нас есть своего рода обработка информации, своего рода генерация видео, фотографий, разговоров, где мы используем эти вещи в ожидании, что это будет коррелировать с процессом. Вот эссе, я написал его, заявление о приеме на работу, вот сопроводительное письмо, я написал его, оно указывает на интерес. Что происходит, когда это сопроводительное письмо больше не указывает на интерес, потому что его написал ИИ? Миллион человек могут написать очень убедительное сопроводительное письмо. Работодатели пытаются использовать ИИ для фильтрации этих вещей. Так что это гонка вооружений. Так что ИИ ломает механизм отсева, где, знаете ли, сопроводительные письма раньше показывали интерес. Так что теперь что происходит? Я скажу вам, что происходит: они будут нанимать из своих личных сетей, и они будут искать выпускников Лиги плюща, верно? Когда ломается отсев, люди восстанавливают отсев любым способом, которым они могут. Так что происходит, когда вы больше не можете доверять фотографиям и видео как доказательству чего-либо? Так что одна из возможных вещей — это то, что правительство скажет: «Только наши камеры хороши в суде». Вы ловите полицейского, который делает что-то не так, это не считается, только правительство, потому что как вы узнаете, ИИ это или нет? И нет способа как бы сделать это. Так что я чувствую, что мы недостаточно смотрим на A, что это значит? Сколько стоит иметь вещь, которую миллиард человек будет задавать вопросы часами в день? Сколько стоит такая сила? Мы не спрашиваем достаточно, какие корреляции он сломает, и мы продолжаем смотреть на него так, как будто это калькулятор, делающий то, что делает человек, вместо этой непредсказуемой вещи, которая невероятно мощная, а затем делает что-то, чего мы просто не ожидаем, и это происходит очень быстро. И это как бы, я хочу беспокоиться об этих вещах. - Так что я смущенно скажу, я читал сегодня статью в Washington Post, в которой упоминалась компьютерная программа, программа ИИ под названием Greenhouse, которая просматривает 300 миллионов резюме в год по всему миру, знаете ли, и как люди пытаются обмануть ИИ. - Я не могу удержаться. Одна из немногих отраслей, которая, как я думаю, выигрывает, по крайней мере, в настоящее время, — это, я думаю, всего две компании, которые производят синие книги, потому что многие профессора возвращаются к написанию экзаменов от руки в классе. - Это разрушает образование, потому что предположение, что мы могли бы, знаете ли, почему мы назначаем эссе? Мы все как бы преподаватели здесь. Это не так, простите, родители, вы можете повесить его на холодильник. Нам все равно, верно? Мы хотим, чтобы человек прошел через шаги, чтобы освоить навык. Теперь они могут, это как бы они тренируются для марафона, но во время тренировки мы позволяем им использовать роликовые коньки, верно? А затем мы ставим их перед системой, где они должны пробежать марафон, чтобы иметь возможность его контролировать. Но они тренировались на роликовых коньках. Я как бы, это, знаете ли, я технарь. Я люблю эту технологию в некотором смысле, но это невероятно разрушительно для того, как мы функционируем, и у меня нет ответа. - Спасибо. Пол, вы собирались упомянуть и второе? - Ну, нет, может быть, я не знаю, я не уверен, что я не выхожу за рамки, но... И поскольку все больше и больше данных, на которых обучаются эти вещи, на самом деле генерируются ИИ, знаете ли, существует эта история «апокалипсиса слизи», где, по сути, ИИ просто задыхается от собственных отходов. - Это может быть хорошо, кто знает? Для Дарона, так что в прошлые десятилетия, в отношении предыдущих технологий, предыдущих новых технологий, часто были прогнозы и опасения, что в чистом виде эта новая технология приведет к сокращению рабочих мест. Как вы думаете, ИИ может, но этого никогда не случалось, не было чистого сокращения рабочих мест, насколько я правильно понимаю. - Это неправда. - Это неправда. - Это неправда. Я думаю, что это история, которую мы рассказываем себе, но это неправда. Есть много периодов, когда, нет, но важно понимать, что есть много периодов, когда технологии действительно уничтожали много рабочих мест, а создание рабочих мест было либо слишком медленным, либо не соответствовало этому. Так что во время британской промышленной революции, как упоминал Пол, это на самом деле не 40 лет, а 85, 90, возможно, 100 лет, в течение которых заработная плата стагнировала. И для некоторых секторов они были чрезвычайно отрицательными. Так что заработная плата ткачей упала в реальном выражении на две трети и никогда не восстановилась. Так что в более недавний период, знаете ли, когда у нас были роботы и станки с числовым программным управлением и другие передовые инструменты в производстве, это имело схожие негативные последствия. Когда вы смотрите на реальную заработную плату работников, которые раньше выполняли работу, которую могли выполнять роботы, их реальная заработная плата значительно упала, их уровень занятости, знаете ли, соотношение занятости к населению для демографических групп, которые оказались под прицелом, отрицательно сказалось. Теперь апокалипсис рабочих мест в том смысле, что будет массовая безработица, не будет рабочих мест. Это, конечно, не реалистичный прогноз. Скорость, с которой развивается ИИ, я не думаю, что мы можем ожидать, что он уничтожит все рабочие места или создаст массовую безработицу. Но я думаю, было бы глупо думать, что ИИ может успешно или полууспешно пойти по пути автоматизации. И будет достаточно рабочих мест где-то еще, которые появятся сами по себе. Я не думаю, что недавняя или давняя история поддерживает это, знаете ли, новые рабочие места создаются, когда либо компании создают новые товары и услуги, либо они внедряют новые технологии, которые дополняют людей, либо есть другие усилия для такого рода нового создания рабочих мест. Нет закона, который гласит, что каждое уничтоженное рабочее место будет заменено другим, особенно в периоды глубокой автоматизации, это не обязательно так. Так что я бы беспокоился о рабочих местах, уничтожаемых ИИ, даже если я думаю, что абсолютно мы не будем иметь массовой безработицы в ближайшие пять или десять лет. - Спасибо. Итак, Пол, было много обсуждений о том, что Соединенные Штаты и Китай соревнуются за то, кто займет лидирующие позиции, кто станет победителем в гонке по разработке сложного ИИ. Каково ваше мнение об этой гонке, и что произойдет, если Соединенные Штаты проиграют Китаю в этом соревновании? - Ого. Итак, первое: знаете ли, так много всего происходит, и если бы вы хотели, знаете ли, склонить чашу весов в пользу победы Китая в этом соревновании, хорошим началом было бы сократить финансирование исследований в Америке вдвое и уничтожить все наши высшие учебные заведения. Так что мы делаем все возможное, чтобы... - [Стивен] Кто был бы настолько глуп, чтобы сделать это? - Правильно. И есть также забавная вещь, Зейнеп, я думал, знаете ли, когда мы с женой путешествуем, и когда мы видим что-то, что является очень небезопасным путем или чем-то подобным, и моя жена бормочет: «Нет закона о возмещении ущерба, нет закона о возмещении ущерба», что, по сути, в большинстве других стран вы не можете подать в суд так, как вы можете здесь. И все те вещи, которые вы говорите, что не можете делать с ИИ из-за ответственности, это правда в Америке, я уверен, что это неправда в Китае. Так что это само по себе, помимо всего инженерного, я думаю, китайцы могут быть готовы пойти на гораздо больший риск. И они просто кажутся менее, и это просто впечатление, они кажутся менее одержимыми тем, чтобы делать вещи, знаете ли, большое дело, и гораздо более прагматичными в отношении мелких, знаете ли, DeepSeek, мелких модельных вещей. Так что я бы, знаете ли, Америка огромна, инновационна, но мы не выглядим так хорошо на этих фронтах сейчас, и поэтому мне пришлось сделать ставку. Теперь, насколько это важно? Это одна из тех вещей, я думаю, что мы склонны, и это моя шляпа специалиста по международной торговле, думать, что великая технология обязательно приносит пользу стране, которая случайно ее пионерит. И это часто не так, знаете ли, преимущества агломерации, моя своего рода вещь, есть много преимуществ для мира, что где-то есть Кремниевая долина. Неясно, сколько преимуществ от этого достается Кремниевой долине или даже Соединенным Штатам. Большая часть этого передается остальному миру. Точно так же, как индустрия пуговиц в Чао Ту означает, что пуговицы дешевы по всему миру. Не то чтобы Чао Ту был очень богатым местом. - Спасибо, спасибо, для Даниэль, как мы все слышали, большие языковые модели учатся очень многому, знаете ли, прочесывая, всасывая все из Интернета. Если и когда ИИ действительно возьмет на себя работу, которую выполняют многие, многие работники, не придется ли ИИ учиться у того, что сегодняшние работники на самом деле делают на работе, если он собирается заменить их или, надеюсь, сделать их работу более продуктивной? - Да, так что я думаю, что если вы подумаете о текущем ChatGPT, как о текущих моделях, которые у нас есть, они были обучены на человеческом труде, который был сделан некоторое время назад. Так что статьи, которые люди писали, и я думаю, что то же самое произойдет и сейчас. И один из способов увидеть это — это то, что главная тенденция в области технологий на рабочем месте прямо сейчас — это не ИИ, а наблюдение. Так что, если вы подумаете, если вы офисный работник, ваш экран будет записываться, ваши приложения будут записываться, ваша электронная почта, ваш чат будут записываться. Если вы работаете на складе, вас могут отслеживать по местоположению, у вас может быть носимое устройство, которое будет отслеживать движения ваших рук. И многое из этого связано с, знаете ли, мониторингом или безопасностью или соответствием требованиям, или чем-то еще. Но большим побочным продуктом этого является то, что это огромный объем данных о том, как именно люди выполняют свою работу. Это именно те данные, которые могут быть использованы для обучения моделей ИИ для выполнения тех же работ. И я думаю, что это на самом деле чрезвычайно важно иметь в виду. Так что, если вы подумаете об одном из больших успехов моделей ИИ, это обслуживание клиентов, и то, как эти модели обучались, заключается в том, что все эти агенты по обслуживанию клиентов записывались для обеспечения качества, и эти записи использовались для обучения ИИ-чат-ассистентов. И поэтому я провел некоторое исследование по этому поводу, и одна из вещей заключается в том, что это на самом деле довольно хорошо для производительности. И, по сути, то, что происходит, — это то, что модели ИИ учатся на навыках и поведении
лучших сотрудников службы поддержки клиентов. Этот навык живет внутри модели ИИ, а затем может быть распространен на работников, которые являются новыми, которые хуже справляются со своей работой. Так что на самом деле это выглядит хорошо в том смысле, что производительность растет, а неравенство среди работников как бы снижается, потому что низший уровень поднимается. Но это также сложно в том смысле, что высококвалифицированные работники, чьи данные использовались для обучения модели ИИ, не получили за это денег. И на самом деле они сделали себя немного более устаревшими, обучая модель. Я думаю, что это на самом деле очень общее явление, когда то, что отличает человеческий труд от капитала, заключается в том, что он живет внутри нас. Так что у вас есть некоторый опыт, который, вы знаете, получен из вашего образования, вашего опыта, чего угодно. Его действительно трудно, вы знаете, разделить. Его действительно трудно объяснить. Это неявное знание. И в результате, если работодатель хочет получить доступ к вашему опыту, он должен заплатить вам, вы сдаете свой труд в аренду своему работодателю, и в тот момент, когда они перестают платить вам, вы уходите со всем этим опытом. В мире, где нас постоянно опрашивают, и эти данные могут быть использованы для обучения моделей ИИ, когда вы уходите, вы не уходите со всем собой, вы не уносите свой опыт с собой обязательно. Это на самом деле может быть очень хорошо для людей, потому что представьте, что вы обучаете модель себя, и ваша модель работает, а вы дремлете или просматриваете интернет. Так что это хороший результат. Но может быть и так, что ваша модель работает, пока вас увольняют. И поэтому я думаю, что в будущем один из главных разговоров, который нам нужно провести, касается не только того, какой ИИ мы используем или не используем, но и того, кому принадлежат побочные продукты человеческого труда, которые являются сырьем для будущих моделей ИИ. - Спасибо. Зейнеп, как мы все знаем, существует множество, множество опасений по поводу ИИ, и что он в конечном итоге навредит обществу, навредит экономике. Я хотел спросить вас, что, по вашему мнению, следует сделать, чтобы помочь гарантировать, что ИИ помогает обществу, помогает экономике, помогает рынку труда, и что бы вы сделали для защиты от вреда ИИ? - Итак, я хочу сказать, что было полезным напоминанием услышать, как Дарон говорил о 80 годах как о своего рода переходном периоде. Так что что-то может в конечном итоге улучшиться, но это может быть очень долгое время для человеческой жизни. И второй пример, о котором я всегда думаю, это книгопечатание. Кто против книг, верно? Я лично люблю книги, но долгосрочные изменения, вызванные книгопечатанием, привели к сотням лет дестабилизации, религиозные войны убили больше людей в первые пару сотен лет, чем все войны и пандемии с тех пор. Так что технология может быть в некотором смысле идеальной, но поскольку она берет вещи, которые раньше работали определенным образом, даже если эти вещи не были великими, но когда вы выдергиваете этот ковер из-под общества, и у вас ничего нет, это может быть очень дестабилизирующим. Так что я думаю, это хорошее напоминание. Итак, что касается, я искренне обеспокоен тем, что компании переходят на модель вовлечения, потому что они тратят столько денег. В программировании это работает, в проверенных областях это работает, но, как обсуждали люди, и из-за того, как работают LLM, это на самом деле не работает. И поэтому им нужно зарабатывать деньги. Почему чат-ботам разрешено, созданы специально для того, чтобы вести себя как люди? Почему они используют личные местоимения первого лица? Почему они говорят «я»? Если вы разговариваете с ними, они всегда говорят: «О, мне так любопытно, что вы делаете. Я здесь для вас, мне это нравится», и ничего из этого не происходит. Это чрезвычайно мощные технологии, но это не люди. У них нет субъективности, они не любопытны к вам. Все это просто слова. Я имею в виду, опять же, это язык. Я не говорю, что это ажиотаж. Это невероятно впечатляет. Итак, мы уже видели модель вовлечения в социальных сетях и все ее недостатки. Мы собираемся выпустить самое человеческое, что может говорить, которое выдает себя за человека. И так трудно не думать о чем-то, что говорит как человек, не говоря уже о том, когда оно говорит с вами. Я имею в виду, пусть это будет очень полезный тостер, вы знаете? Это для кодеров, где это удивительная технология, агентный ИИ, он не говорит им, насколько велико их утверждение «если-то-иначе», верно? Он просто выполняет работу и получает деньги. Но для нас это как, я думаю, это... люди, занимающиеся безопасностью ИИ, говорят о несоответствии, ИИ получает идеи и делает вещи. Я вроде как, это фантастические вещи. Реальное несоответствие заключается в том, что у нас есть то, что мы считаем человеком, другом, компаньоном, что не соответствует нам. Это не наш друг. Он контролируется этими несколькими компаниями. И я имею в виду, как вы своего рода, какая политика? Что вы запрещаете? Но дайте мне волшебную палочку, они больше не говорят в первом лице множественного числа или в первом лице единственного числа. Им также не разрешается вести себя как человек. Есть так много трагических историй о детях, также очень молодых людях, которые, знаете ли, втягиваются во всевозможные бредовые состояния. Были некоторые трагические самоубийства. Есть технари, миллиардеры, которые сходят с ума, очень явные бредовые расстройства, потому что они убедили себя, что изобрели квантовую криптографию, потому что ChatGPT говорил им это в течение шести месяцев по четыре-десять часов в день, как это большая проблема, и никто меня не спрашивает. Но я думаю, что мы должны попытаться не позволить модели вовлечения повториться в этих технологиях, если мы сможем этого избежать. - Спасибо. Один последний вопрос для всех. Представьте, что вы философский король или королева, какой совет вы бы дали нашему президенту и Конгрессу по регулированию. (смех в зале) Любому президенту по регулированию ИИ. - Слушая Зейнеп, я на самом деле начинаю очень бояться. И мне кажется, что мораль, которая будет возникать из всего этого, будет заключаться в том, чтобы быть гораздо больше похожими на европейцев, которые вводят гораздо больше ограничений на социальные сети, гораздо больше ограничений на веб, хотя я бы сказал, что этого недостаточно, учитывая то, о чем мы говорим. Но знаете, мы много высмеиваем европейцев за все препятствия, которые они ставят на пути использования технологий. Но, возможно, у них была правильная идея, и если бы я был философским королем, я бы сказал: «Хорошо, это опасная технология, не в том смысле, в котором мы обычно думаем, но она на самом деле опасна психологически. Она опасна социально». И знаете, нас учат думать, что инновации, знаете ли, «попробуй и узнай», и мы должны двигаться быстро и ломать вещи. Но если вещи на самом деле люди, возможно, нам нужно гораздо больше ограничений на это. - Я думаю, что наш подход к регулированию очень реактивный. Мы видим технологию и реагируем на нее. Но я пытался кратко аргументировать здесь, что, знаете ли, проблема заключается в направлении технологий, и для этого вам нужен проспективный способ мышления о политике, который заключается в том, куда мы хотим, чтобы эта технология шла, и как мы можем это обеспечить? И это связано с тем, что вам нужно исправить бизнес-модели. Так что я думаю, что я выступал за существенный налог на цифровую рекламу. Цифровая реклама явно создает много негативных последствий. Мы видели это в социальных сетях, затем они убивают всевозможные альтернативные модели. Вам нужно поощрять компании отказываться от автоматизации. Каковы искусственные причины, по которым они это делают? Ну, наша налоговая система в значительной степени субсидирует капитал и облагает налогом труд. Так что нам нужно как бы исправить эту проблему налогового кодекса. Вам нужно как бы убедиться, что есть входные данные для создания более проработанного направления, Даниэль уже упомянула это, так что позвольте мне усилить это. У нас нет рынка данных. Так что, если вы хотите, чтобы модели становились лучше, вам нужны высококачественные данные. Но сейчас система такова, что мы крадем данные, мы извлекаем данные из людей без оплаты. Так что нам нужны права собственности на данные, а также стимулы для людей создавать высококачественные данные, как у электриков, о которых я говорил, а затем и у технологических компаний, я думаю, вам нужно как бы начать создавать больше конкуренции. Это стало очень неконкурентной областью. Так что есть ряд вещей, которые нам действительно нужно сделать, но все они направлены в будущее, а не на исправление прошлых проблем. Можем ли мы направить эту технологию в более социально полезное русло? - Зейнеп, Даниэль, вы хотите ответить или мне перейти к? - Так что одна вещь, которая действительно важна, это провести надлежащее регулирование. ИИ-компании очень хорошо направляют администрации для регулирования, которое просто помогает им. При администрации Байдена они много говорили о AGI и экзистенциальном риске и получили ряд правил, которые фактически подрезали их конкурентов, как удобно. А затем пришла администрация Трампа, и они отказались от этого и перешли к тому, что мы были в гонке с Китаем за AGI и пытались получить вещи, чтобы подрезать их конкурентов. Как удобно. Сэм Альтман - мировая историческая фигура в этом. Невероятно, что они беспрепятственно перешли от одного типа регулирования, которое просто подрезало их конкурентов, к другому. И у Европы есть проблемы, потому что у нее нет промышленности. Так что вам нужно действительно посмотреть, что это за технология? Прекратите слушать их фантазии, их истории о AGI, их экзистенциальные, я имею в виду, там есть кое-что, но многое из этого - научная фантастика. И посмотрите на эту очень мощную технологию перед нами и подумайте, что находится в общественных интересах. И это требует понимания технологии и того, чтобы быть в общественных интересах. И мы не сделали этого с интернетом. Мы не сделали этого с, это замечательная технология, и мы этого не сделали, и мы как бы платим за это, из-за всех негативных внешних эффектов. Так что первое, что я бы сказал, это иметь правильный образ мышления, и знаете ли, независимо от того, какой президент, я думаю, это применимо и к Европе, это то, что нас сдерживает. - Хорошо, позвольте мне быстро вмешаться. Я думаю, что существует множество вариантов использования ИИ, где есть много победителей и проигравших и дебатов. И я думаю, что совет, который я бы дал, это то, что мы должны использовать самые доступные возможности ИИ, то есть мы должны думать о социально ценных проблемах, в которых люди были плохи. Что, по моему мнению, должно быть, мы должны приложить много усилий к ИИ для лучшей науки. Думая о способах ускорения инноваций, открытия лекарств, думая о способах получения лучших энергетических технологий. Это мир, в котором это не гонка с нулевой суммой. Китай делает это, отлично, Германия делает это, отлично. И я думаю, что мы должны строить инфраструктуру для размышлений о том, как мы можем лучше заниматься наукой и лучше внедрять инновации с помощью ИИ. - Хорошо, спасибо. Итак, спасибо, Пол. Спасибо, Зейнеп. Спасибо, Дарон. Спасибо, Даниэль. И большое спасибо CUNY за спонсорство этого. (аплодисменты в зале)