Transcription
[Müzik] Yapay zeka son yıllarda bilgi üretim biçimini kökten değiştirdi. Artık bir yapay zeka aracına yalnızca birkaç anahtar kelime vererek sahte bir haber, manipülatif bir görsel hatta bir siyasetçinin aslında hiç söylemediği sözleri kendisinin söylerken bir videosunu üretebilmek mümkün.
Yapay zeka kullanım alanının genişlemesi ve yaygınlaşmasıyla dezenformasyonun hem üretiminde hem yayılmasında önemli bir araç haline geldi. Diğer yanlış bilgilerde olduğu gibi yapay zeka ile üretilen yanlış bilgiler de metin, görsel ve video şeklinde karşımıza çıkabiliyor. Üretken yapay zeka araçları da öğrenilmiş örüntülere dayanarak içerik üreterek bilginin üretimini ve yayılımını kolaylaştırıyor.
Yapay zeka ile üretilen metin içerikleri large language models (LLM) denilen yani büyük dil modelleri olarak tanımlanan çok miktarda metin verisiyle eğitilmiş ve bu verilerden dilin yapısını, anlamını, bağlamını öğrenebilen yapay zeka sistemleri aracılığıyla üretiliyor. ChatGPT bunun en bilinen örneği. Yine Gemini ve Claude da benzer şekilde doğal dili anlayabilen ve bizim ürettiğimiz metinlere benzer metinler üretebilen ileri düzey büyük dil modelleridir.
Metne ek olarak görsel, ses veya video gibi farklı veri türleriyle eğitilen large multimodal modeller (büyük çok modlu modeller) ise görseli yorumlayıp metin üretebilir, sesi analiz edebilir, video üretebilir, çoklu veri türlerini birleştirerek çıktı verebilir. Yapay zeka araçlarının tıpkı geleneksel yanlış bilgi üretiminde olduğu gibi metin, görsel ve video şeklinde farklı türlerde üretilmesi bu içeriklerin oldukça inandırıcı olması, neyin gerçek neyin sahte olduğunun belirlenmesini de zorlaştırıyor.
Yapay zekanın yanlış bilgilerin üretiminde ve yayılımında nasıl bir rolü olduğunu dört başlıkta inceleyebiliriz. İlk olarak metin içerikleri ile başlayalım. Büyük dil modelleri kullandığımız gündelik dile çok yakın şekilde haber, blog yazısı, sosyal medya paylaşımı hatta akademik makale gibi metinler oluşturabiliyor. Bu metinler öylesine inandırıcı olabiliyor ki gerçek bir gazetecinin ya da uzmanın kaleminden çıkmış gibi görünebiliyor. Bu sebeple de konunun uzmanı olmayan okuyucular tarafından fark edilmesi oldukça zor hale geliyor.
Metin üretimiyle oluşturulan en önemli çıktılardan biri de sahte haber siteleri. Aslında üretken yapay zeka öncesi de sahte haber sitelerine sıklıkla rastlıyorduk. Ancak yapay zeka üretimi kolaylaştırdığı için içerik üretimi süreleri düşüyor ve içerikler daha da inandırıcı hale gelebiliyor. Haber görünümünde sahte içerikler sunan yüzlerce web sitesini inceleyen bir araştırmaya göre bu siteler büyük ölçüde insan müdahalesi olmadan üretken yapay zeka araçlarıyla içerik üretiyorlar. Siyasi liderlerle ilgili asılsız iddiaları, ünlülerin öldüğüne dair yalan haberleri, eski haberlerin yeni gibi sunulması, gerçek dışı olayların uydurulması gibi yanlış bilgi türlerinde içerik yayınlıyorlar. Bu siteler genellikle reklamlar üzerinden gelir de elde ediyorlar ve markalar da güvenirliğe bakılmaksızın reklam verdiğinde bu sitelerin ekonomik olarak da teşvik edilmesine yol açıyor.
Yapay zeka araçları bir kişinin sesini birkaç saniye örnekle analiz edebilirken bu analiz sonrası bu sese istediğiniz şeyi söyletebilmenize de olanak tanıyor. Bu teknolojiyle bir siyasetçinin, ünlü birinin aslında hiç söylemediği bir cümle onun sesiyle yayınlanabiliyor ve paylaşılabiliyor.
Yapay zeka ile metinden görsel üreten modeller sayesinde artık gerçekçi olmayan ama gerçeğe çok yakın fotoğraflar, çizimler ya da olay görüntüleri oluşturulabiliyor. Önceden fotoğraf düzenleme programlarıyla yapılan bu tür görseller şimdi yapay zeka araçlarıyla kısa sürede ve çok daha gerçekçi bir şekilde üretilebiliyor. Bu görseller sosyal medyada ya da haber sitelerinde gerçek bir olaya aitmiş gibi sunularak yanlış bir bağlamda kullanılıyorlar. Örneğin 2023'te sosyal medyada paylaşılan Papa Francis'in beyaz şişme mont giydiği görseli gerçek değildi ama dünya çapında milyonlarca kişi tarafından gerçekmiş gibi paylaşıldı.
Yapay zekanın en korkutucu yanlarından biri de deepfake videolar. Deepfake videolar yapay zeka teknolojisinin yanlış bilgi üretiminde ulaştığı en ileri ve en tehlikeli noktalardan biri. Deepfake, deep learning (derin öğrenme) ve fake (sahte) kelimelerin birleşiminden oluşuyor. Bu teknoloji bir kişinin yüzünü, mimiklerini ve sesini taklit ederek onu sanki gerçekten bir şey söylüyormuş gibi gösteren sahte videolar üretiyor. Bu videoların en önemli özelliği gerçekçi görünmeleri. Göz kırpmalar, yüz kaslarının hareketi, ağızla senkronize konuşma gibi birçok detay bu sahiciliği daha da artırıyor.
Bunun örnekleri birçok siyasetçiye karşı kullanıldı. Yakın zamanda Ukrayna'da, sosyal medyada Ukrayna Devlet Başkanı Zelenski'nin "Ordularımız silah bırakmalı, teslim olun" dediği bir video paylaşıldı. Bu bir deepfake videoydu ve savaşı manipüle etmeye yönelik dolaşıma sokulmuştu. Bir dezenformasyon kampanyasıydı. Bu olay bize deepfake videoların sadece kişisel değil ulusal ve küresel güvenliği tehdit edebilecek kadar güçlü bir yanlış bilgi aracı olduğunu gösterdi.
Deepfake videoların paylaşım zamanları da önemli. "Last minute deepfakes" (son dakika deepfake'leri) özellikle seçimlerden kısa bir süre önce bir iki gün kala paylaşılarak seçimleri manipüle etmeyi amaçlıyor. Bu tür yapay zeka dezenformasyonunu çürütmek ve karşı koymak için yeterli vakit de olmadığından seçimlere yönelik etkisi de yüksek olabiliyor. Bu kapsamda değerlendirebileceğimiz kampanyalar 2023 yılında Slovakya ve Polonya'da seçimlerde gerçekleşmişti. Özellikle seçim öncesi dönemlerde birden ortaya çıkan çarpıcı iddialar içeren video ve görsellere karşı şüpheci olmakta fayda var.
Her ne kadar deepfake videolar çok tehlikeli olsalar da gerçek yaşanmış olayların da deepfake ya da yapay zeka üretimi video olarak tanımlandığı durumlara şahit olabiliyoruz. Bu yöntemde gerçek manipülasyon teknolojinin potansiyeline yapılan imayla, yani üretilen gerçek bilgilerin de deepfake veya yapay zeka olabileceği ile ilgili. Böylece gerçek bir olayı itibarsızlaştırmaya çalışmak temel bir amaç.
Yapay zekanın yanlış bilgilerin yayılmasındaki bir diğer etkisi de botların otomatize edilerek otomatik paylaşım ağları ile bilginin yayılımını hızlandırması. Günümüzde bu botlar basit otomasyonlar olmaktan çıktı. Yapay zeka ile çalışan bu botlar artık sadece paylaşım yapmakla kalmıyor. Gerçek bir insan gibi yorum yazabiliyor. Güncel olaylara tepki verebiliyor. Tartışmalara katılıp yönlendirme yapabiliyor. Bu botlar genellikle büyük dil modelleriyle entegre çalışıyor. Böylece her mesajın altında aynı cümleleri görmek yerine gerçek gibi duran ama manipülatif, çarpıcı ya da nefret söylemi içeren yorumlarla karşılaşabiliyoruz. Bu içeriklerin üretimi de ChatGPT gibi üretken yapay zeka araçlarıyla hızlıca sağlanabiliyor.
Botlar genellikle tek başına da çalışmıyor. Bir ağ içerisinde hareket ediyorlar. Yüzlerce hatta binlerce sahte hesap eş zamanlı olarak aynı içeriği paylaşıyor, aynı kelimeleri etiketliyor, aynı görüşü yayıyorlar. Bu otomatik ağlar trend listelerini de manipüle edebiliyor. Hatta yanlış bir bilgiye kısa sürede büyük bir popülerlik kazandırabiliyorlar. Örneğin seçim dönemlerinde henüz resmi sonuçlar açıklanmadan "şu parti kazandı" gibi manipülatif içerikler yayabiliyorlar. Trend listelerine girebiliyorlar. Bu içerikler toplumu yanlış bilgiyle yönlendirerek paniğe ya da kutuplaşmaya neden olabiliyor.
Yapay zeka yalnızca içerikleri üretmekle ve yaygınlaştırmakla kalmıyor. Aynı zamanda bu içeriklerin kimlere, ne zaman ve nasıl ulaşacağının belirlenmesinde bir otomasyon işlevi görüyor. Bunu sağlayan şey ise algoritmalar. Ne izlediğinizi, neye tıkladığınızı, hangi gönderiyi beğendiğinizi ve sizin için ilgili olabilecek, beğenebileceğiniz içerikleri öne çıkarıyor. Algoritmaların temel amacı kullanıcıları, yani bizleri platformda daha fazla tutmak, etkileşimi artırmak yani paylaşım yapmamızı sağlamak, diğer kullanıcılarla iletişim kurmamızı sağlamak. Eee, bu konuları diğer dersimizde bahsetmiştik. Algoritmaların bu özelliklerinin sonucu daha fazla reklam geliri elde etmek.
Bu algoritmalar dolayısıyla yanlış bilgiye karşı duyarsızdır. Algoritmalar için bilginin doğruluğunun veya yanlışlığının pek de bir önemi yok. Önemli olan etkileşim yaratacak bir içeriğin ve ortamın olması. Eğer yanlış bir bilgi çokça paylaşılıyor, bolca yorum alıyorsa algoritma bunu da popüler olarak görüyor ve öne çıkarıyor. Yapay zeka destekli algoritmalar bize genellikle bizim gibi düşünen kişilerin içeriklerini gösteriyor. Bu da bizi farklı görüşlerle karşılaşamayacağımız bir yankı odasına hapsediyor. İçinde bulunduğumuz bu yankı odasında sürekli benzer haberleri görürüz, benzer yorumları okuruz ve karşılaştığımız yanlış bilgiler takip ettiğimiz, güvendiğimiz kişilerden geldiği için doğruymuş gibi görünmeye başlıyor.
Yapay zeka araçlarının her zaman bizlere doğru bilgileri vermediğini akılda tutmamız gerekiyor. Yapay zeka tabanlı büyük dil modelleri çok büyük hacimli çevrim içi metin verileriyle eğitiliyor. Bu durum modellerin eğitim verisi içinde doğrulanmamış, manipüle edilmiş veya kasıtlı olarak üretilmiş yanlış bilgilerin de yer almasına neden oluyor. Dolayısıyla bu modelin verdiği yanıtlar eğitim sürecinde maruz kaldığı yanlış içeriklerden etkilenebiliyor.
NLGard tarafından yayımlanan raporla Rusya merkezli bir dezenformasyon ağı olan Pravda'nın milyonlarca yanlış bilgiyi dijital ortamda paylaşarak yapay zeka sohbet robotlarının vereceği cevapları etkilediğini öğrenmiştik. Rusya'nın Ukrayna'ya yönelik işgalinden sonra kurulan Pravda, 2023 yılında 3.6 milyondan fazla içerik yayımlayarak Microsoft, Google, ChatGPT, Meta gibi sohbet robotlarını kullanan kullanıcıların yanlış bilgilerle karşılaşmasına neden oldu.
Özetle yapay zeka sadece bilgi ve içerik üretmenin bir yolu değil. Aynı zamanda bilgi üzerindeki kontrol mücadelesinin merkezinde yer alan bir güç haline geldi. Artık birkaç kelime yazarak sahte haberler, gerçek gibi görünen fotoğraflar, taklit edilmiş sesler ya da bir siyasetçinin hiç söylemediği sözleri içeren deepfake videoları üretmek mümkün. Üstelik aktarmaya çalıştığımız gibi bu içeriklerin yalnızca üretimi değil, yapay zeka destekli algoritmalarla yayılımı da büyük bir hızla etki yaratıyor. Gördüğümüz her içeriği sorgulamak, doğrulamak ve bağlamına dikkat etmek, paylaşmadan önce durup bir düşünmek her zamankinden daha da önemli hale geliyor.
[Müzik]