Transcription
У Эмили Окита из NBC есть подробности обо всем этом для нас. >> Так называемый ИИ-мусор повсюду в Интернете в эти дни, Анжела Картер здесь в прямом эфире становится менее мусорной. Шучу. Я не настоящий с гиперреалистичными фейковыми новостными клипами, созданными ИИ, которые циркулируют, часто представляемые как шутка. >> Дана Брукс. >> Репортаж в прямом эфире из Оушен-Вью. Но что становится не таким уж смешным? Как легко реальность можно спутать с подделками? >> Белый дом представляет план по обучению белоголовых орланов в качестве патриотических разведывательных подразделений. >> Можете ли вы отличить? >> Ну, президент Трамп сегодня встречается с другим мировым лидером, поскольку его администрация обещает больше торговых сделок. >> Тот, что слева, создан ИИ, а тот, что справа, настоящий. Запуск Google VO Three ранее в этом году шокировал пользователей и индустрию своей реалистичностью, а также тем, как его можно сочетать с генерацией аудио. Репортаж в прямом эфире. >> С пляжа Клируотер, где ан. >> Неопознанный. >> И по мере того, как границы стираются, клипы ИИ — это подделка, а отчеты — это достойные новостей события, которых никогда не было. Даже достигая Овального кабинета. С президентом Трампом, публикующим это провокационное видео, созданное ИИ, бывшего президента Обамы, арестованного в Белом доме. Во многих отношениях это очевидный пример дезинформации или пародии. Легко опровергается. Но что происходит, когда это не так очевидно? >> Мы раньше говорили. >> Что. >> Видеть — значит верить, и. >> Это больше не так. >> Случай. >> Это усложняет жизнь Эммануэль Салиба, эксперту по проверке контента и бывшему репортеру NBC News. Она говорит, что технологии становятся настолько продвинутыми, что поддельные видео регулярно распространяются по всему миру и сообщаются как факты. >> Во время этого. >> Пробела между событием и тем, как власти или СМИ получают какое-либо подтверждение, именно там мы видим, как весь этот контент, созданный ИИ, начинает распространяться, и до того, как он будет опровергнут, до того, как он будет проверен, он набирает миллионы просмотров. >> Феномен, также известный как синтетические медиа. Мы хотели увидеть, насколько легко его создать. Поэтому мы попробовали Google VO Three. Подсказка гласит: "Создай реалистичного телерепортера". Корреспондент NBC News Эмили стоит в снежном сугробе со снежными деревьями позади нее. Мы ввели в программу короткую подсказку, предназначенную для воссоздания реального репортажа, который я сделал в 2023 году. >> Хорошо, теперь мы будем генерировать. >> При первой попытке, примерно за минуту обработки. >> О, стоит послушать. >> Это область. >> Привыкшая к. >> Зимней погоде. >> Но, как вы. >> Видите по свисающим. Веткам деревьев. >> Этот. >> Колоссальный шторм. >> Принес обильный снегопад. >> Пейзаж настолько хорош, и качество настолько хорошее, вплоть до деталей шляпы. Вы можете видеть снежинки. Это не очень похоже на меня ни внешне, ни по звучанию. А текст внизу экрана — это бессмыслица, явный признак ИИ. Но посмотрите, как ИИ-репортер жестикулирует, как он держит шляпу, пальто, даже нашивку NBC на плече, и сравните это с реальным. Это область, привыкшая к зиме. >> Погода. >> Но, как вы видите, свисающие ветки деревьев. Этот колоссальный шторм принес обильный снегопад. Медленное отдаление. Это невероятно похоже. >> На фактическое движение камеры. >> Мы пытались изменить подсказку, чтобы она выглядела больше на меня, но эти попытки были заблокированы, Google предупредил: "Цитата: может нарушить наши правила в отношении создания изображений известных людей". Генератор видео Google настолько хорош, по крайней мере отчасти потому, что он обучает свои модели на некоторых видео, опубликованных на YouTube, как недавно сообщила компания CNBC. Именно эта полная реалистичность такого легкого, бесплатного создания подчеркивает более серьезную проблему, когда эта технология используется не для развлечения, а для продвижения повестки дня или посева путаницы. Салиба указала на этот пример: видео, опубликованное в телеграм-канале на персидском языке в июне, предположительно показывающее израильский удар по печально известной иранской тюрьме Эвин. Израиль действительно нанес удар по тюрьме, поэтому видео попало во множество новостных репортажей, включая NBC News Digital. Но видео было поддельным. Видео было удалено с NBCNews.com из-за опасений по поводу его подлинности. >> Прямо сейчас, то, что мы видим с генеративным видео, заключается в том, что оно может генерировать только один кадр продолжительностью до 6 или 8 секунд максимум, и это была длина видео. >> Салиба нашла этот стоп-кадр из двухлетней статьи, который точно совпадает с первым кадром клипа, что означает, что кто-то, вероятно, использовал это изображение для создания ложных кадров. 12-дневная ирано-израильская война оказалась плодородной почвой. Синтетическая пропаганда смешивается с потоком информации, выливающимся из быстро меняющегося конфликта. У некоторых есть явные признаки ИИ, если присмотреться, но они достаточно реалистичны, чтобы обмануть тех, кто быстро прокручивает. Все это происходит во все более фрагментированной медиасреде, где более половины людей младше 35 лет в США уже полагаются на социальные сети и видеосайты как на основной источник новостей, в отличие от традиционных СМИ, согласно опросу Reuters. Инфлюенсеры и подкастеры, такие как Джо Роган, регулярно собирают большую аудиторию, чем кабельные новости, и даже комики монтируют себя в местные новостные клипы, чтобы создавать смешной контент. Это не ИИ, но все же иногда трудно отличить от настоящего. >> Я заплатил 300 долларов, чтобы. >> Поймать несколько зинов. >> И, возможно. >> Поймать немного групера. >> Теперь я добавляю еще один уровень с возможностью почти мгновенно дублировать видеоконтент на другом языке, также доступном на рынке. Это просто. Я беру селфи-видео, подросток вставляет его на веб-сайт, несколько кликов. Я не говорю по-испански свободно. Признавая эти трудности в проверке как растущую проблему, некоторые компании пытаются решить ее у источника. Google отказался от интервью для этой истории, но указал нам на функцию, которую он называет Synth ID, незаметный водяной знак, встроенный в пиксели, звуковые волны и даже выбор слов всего контента, созданного ИИ. >> Водяной знак может выдерживать обычные методы редактирования, такие как изменение порядка и обрезка, добавление шума, сжатие, кадрирование и фильтры. >> Системы Google могут обнаружить водяной знак и пометить вероятный контент ИИ, но детектор пока находится в стадии тестирования и еще не полезен для общественности. Другие подходят иначе, сосредоточившись вместо этого на маркировке подлинного контента. Одна группа, C2, пытается создать учетные данные контента, которые могут отслеживать жизнь контента от его происхождения до момента, когда вы видите его онлайн. Председатель описывает это как "цифровую этикетку питания". Но у нее есть ограничения. >> Проблема в том, что она не выживает, например, при загрузке и скачивании из социальных сетей, а большая часть этого контента распространяется в социальных сетях. >> В ответ KTPA сообщает нам, что она объединяет визуальный водяной знак с учетными данными контента, чтобы сделать их более долговечными. Но пока это не очевидно для обычного зрителя в Интернете, что должен делать потребитель новостей? >> Просто знайте, что могут производить эти инструменты. Оставайтесь скептичными. Попытайтесь проверить контент. Есть пара инструментов, на которые вы можете обратить внимание, но они будут меняться со временем. >> Делая ясно, что даже опытному глазу могут понадобиться более совершенные инструменты, чтобы отличить