Transcription
Lütfen Profesör Yuval Noah Harari'yi karşılamak için bana katılın. Teşekkür ederim. Çok teşekkür ederim. Merhaba herkese. Umarım mikrofonumu açmışımdır ve beni duyabiliyorsunuzdur. Tamam. Bu nedenle, bu yılki Tano dersini vermek benim için gerçekten büyük bir onur ve Oxford'a geri dönmek de kişisel bir sevinç. 25 yıl önce Dr. Steven Gunn'ın rehberliğinde burada doktora yaptım. O zamanlar ortaçağ ve erken modern askeri tarihlerinde uzmanlaşmıştım. Ancak bugün şövalyelerden, kalelerden ve barut devriminden bahsetmeyeceğim. Yapay zeka bürokratları, dinler, erkek arkadaşlar ve daha genel olarak yapay zeka devrimi hakkında konuşacağım. Şimdi, yapay zeka hakkında bilmeniz gereken en önemli şey, yapay zekanın bir araç olmadığıdır. Elimizdeki bir araç değil. Kendi elleri olan bir ajandır. Ajans tam olarak nedir? Bir ajanın bir araçtan farkı nedir? Ajanların birkaç ayırt edici özelliği vardır. Bilinçli olmaları gerekmez. Bir ajan olmak için bilince ihtiyacınız yoktur. İhtiyacınız olan şey, kendi başınıza karar verebilme yeteneğidir. Kendi başınıza yeni şeyler, yeni fikirler icat etme yeteneği. Bir ajan, yaratıcılarının bilmediği şeyleri kendi başına öğrenebilmelidir. Ve bir ajan, yaratıcılarının öngörmediği şekillerde kendi başına değişebilmelidir. Örneğin, bir atom bombası, muazzam gücüne rağmen bir ajan değildir. Kendi başına öğrenemez ve değişemez. Hangi şehri bombalayacağına kendi başına karar veremez. Hidrojen bombası gibi yeni bir şey icat edemez. Benzer şekilde, otomatik bir kahve makinesinin, kendi başına bazı şeyleri otomatik olarak yapsa bile bir ajan olmadığını varsayalım. Bir düğmeye basarsınız ve makine otomatik olarak size bir fincan kahve yapar. Ancak makine, kahve makinesi yalnızca önceden programlanmış bir prosedürü takip eder. Değişmez. Yeni bir şey öğrenmez. Yeni bir şey yaratmaz. Ancak, kahve makinesine yaklaştığınızda, siz herhangi bir düğmeye basmadan önce, makinenin size "Son birkaç haftadır sizi izliyordum ve hakkınızda ve diğer insanlar hakkında öğrendiklerime ve yüz ifadenize ve günün saatine göre, bir espresso isteyeceğinizi tahmin ediyorum. Bu yüzden size zaten bir fincan hazırladım" dediğini varsayalım. İşte bu bir yapay zeka kahve makinesidir. Kendi başına bir şeyler öğrendi ve kendi başına bir şeyler kararlaştırdı. Ve eğer ertesi gün "Şimdi size espressodan daha çok beğeneceğinizi düşündüğüm 'best preso' adında yeni bir içecek icat ettim ve siz de onu deneyeceksiniz. Size bir fincan hazırladım" derse, o zaman gerçekten bir yapay zekadır. Yaratıcılarının öngörmediği şekillerde değişmiş ve tamamen yeni bir şey icat etmiştir. Bildiğim kadarıyla şu anda kahve makineleri yok. Belki anthropic merkezinde veya Google merkezinde birkaç prototipleri vardır, ancak henüz piyasada değiller. Ancak go oynamak, satranç oynamak gibi belirli dar alanlarda, yapay zeka ajansı ve yaratıcılığı zaten insan ajansını ve yaratıcılığını büyük ölçüde aşmıştır. Yapay zeka satranç ustaları elbette kendi başlarına hangi hamleleri yapacaklarına karar verebilirler. Binlerce yıllık oyun deneyimi boyunca insan satranç ustalarının hiç aklına gelmemiş tamamen yeni satranç stratejileri icat ederler. Ve bunu yaparken, insan yaratıcılarının mutlaka öngörmediği şekillerde öğrenir ve değişirler. Bugün elbette hiçbir insanın bir yapay zeka satranç ustasını yenme şansı yoktur. Şimdi, yapay zeka devriminin önemini küçümseyen insanlar, satranç tahtasının insanlar tarafından yaratılmış çok dar ve yapay bir ortam olduğunu savunarak satranç gibi örneklere burun kıvırıyorlar. Eleştirmenler, yapay zeka ajansının her zaman böyle dar ve yapay ortamlara sınırlı kalacağını, bunun da gerçek ajans olmadığı ve insanlığa ciddi bir tehdit oluşturmadığı anlamına geldiğini söylüyorlar. Evet, yapay zeka satranç tahtasını ele geçirebilir, ancak asla Dünya gezegenini ele geçiremez. Ve gerçekten de bir deney yaparsanız, en büyük yapay zeka satranç ustasını alıp ormanın ortasına bırakırsanız, ne olacağını düşünüyorsunuz? Yapay zeka satranç ustası demir madenciliğine başlayamaz, fabrikalar inşa edemez ve dünyayı ele geçirmek için bir robot ordusu oluşturamaz. Aslında hiçbir şey yapamaz. İnsanlar tarafından inşa edilen enerji santralleri tarafından sağlanan elektrik olmadan, yapay zeka satranç ustası tamamen çaresizdir. Bu nedenle, argüman şöyledir: Yapay zekalar gerçek ajanlar değildir. Birileri tarafından, insanlar tarafından kendileri için inşa edilmiş bu dar yapay nişlere hapsolmuşlardır. Sorun şu ki, bu argüman aslında bilinen tüm zeka türleri için geçerlidir. İnsan zekası da birileri tarafından inşa edilmiş nispeten dar bir ekosistem içinde işler. Beni Mars'ta yalnız bırakmak, ormanın ortasına bir yapay zeka satranç ustası bırakmak gibi olur. Saniyeler içinde ölürüm. Zekam yalnızca, ağaçların, bakterilerin, böceklerin ve diğer organizmaların dört milyar yıllık evrim boyunca Dünya gezegeninde inşa ettiği çok çok özel ekosistem içinde hayatta kalabilir ve işleyebilir. Ve bu tüm ajanlar için geçerlidir. Bildiğimiz tüm ajanların en azından kendi nişleri vardır. Balıklar, yaratmadıkları okyanuslarda yaşarlar. Maymunlar, yaratmadıkları ormanlarda yaşarlar. Tüm memeliler, insanları da içeren, yaratmadıkları oksijen açısından zengin bir atmosferde yaşarlar. Yaklaşık 2,4 milyar yıl öncesine kadar, gezegenimizin atmosferi çok az oksijen içeriyordu. Ve o zaman yaşayan organizmaların çoğu için oksijen ölümcül bir zehirdi. Ardından, büyük oksijenasyon olayı olarak bilinen yüz milyonlarca yıl süren uzun bir süreçte, çeşitli antik mikroplar, fotosentetik süreçlerinin bir yan ürünü olan ölümcül oksijenle Dünya'nın atmosferini kirletmeye başladılar. Atmosfer bu ölümcül zehirli gazla doldukça, çok sayıda arkaik tür yok olmaya zorlandı. Ancak bazı türler hayatta kalmayı ve yeni koşullara uyum sağlamayı başardılar. Sonunda, bu hayatta kalanların çoğu oksijenden nefret etmekten, hayatta kalmaları için tamamen oksijene bağımlı hale gelmeye geçtiler. Ve atalarımız elbette bu geçişi geçiren türler arasındadır. Ve hala başlangıçta bu antik mikroplar tarafından yaratılan bu yapay oksijen dolu ortamda yaşıyoruz. Bu derste savunmak istediğim şey, yaşamın evriminde benzer bir anı tanık olabileceğimizdir. Son bin yıllarda biz insanlar, atmosferi, belki homo sapiens dahil çoğu organizma için ölümcül olabilecek bir şeyle dolduruyoruz, ancak bu, yapay zekaların geliştiği yeni bir yapay ortam yaratıyor. Ve CO2'den bahsetmiyorum. Verilerden, bürokrasiden ve nihayetinde şu anda ağzımdan çıkan şeyden, yani kelimelerden, dil jetonlarından bahsediyorum. Binlerce yıl boyunca biz insanlar, gezegeni dil içermeyen bir ortamdan, dil jetonları, veri ve bürokrasi açısından zengin çok yapay bir ortama dönüştürdük. Ve bu ortam, çoğu organizma için ölümcül olabilir, ancak yapay zekanın gelişimi için oldukça elverişli olabilir, çünkü balıklar okyanuslarda ve maymunlar ormanlarda yaşadığı gibi, yapay zekalar da bürokrasilerde yaşar. Öyleyse, bürokrasi hakkında birkaç dakika konuşalım, sonra bürokrasinin temelini oluşturan dil ve kelimeler hakkında konuşmaya geri döneceğiz. Şimdi, insanlar, türümüz, çok çok büyük sayılarda işbirliği yapmayı öğrenerek dünyayı fetheder. Bireysel olarak insanlar, diğer hayvanlardan daha güçlü veya hatta daha akıllı değildir. Bire bir dövüşte, bir insan büyük olasılıkla bir şempanzeye, bir aslana veya bir file yenilir. Ancak, bir milyon insan ve bir milyon şempanze arasındaki bir yarışmada, insanlar kolayca kazanır çünkü insanlar nasıl işbirliği yapacağını bilir ve şempanzeler bilmez. Ve bu yüzden dünyayı kontrol ediyoruz. Şimdi, birbirini tanımayan bir milyon insan nasıl işbirliği yapar? Şempanzeler kişisel tanışıklığa dayanarak, birbirleriyle işbirliği yaparlar. İnsanlar küçük sayılarda işbirliği yaparlar, ancak bir milyon insanı tanıyamazsınız. Peki, bir milyon insan nasıl işbirliği yapar? Genellikle bir hukuk sistemi, finansal sistem, kiliseler, devletler veya üniversiteler gibi bir bürokratik sistem inşa ederek. Şimdi, bu bürokratik sistemler aslında ne yapar? Bir devlet görevlisi, bir piskopos, bir haham, bir muhasebeci, bir avukat veya bir bankacı sabah işe gittiğinde, orada bütün gün ne yaparlar? Marangozlar masa yapar, mühendisler köprü yapar. Bankacılar ve diğer bürokratlar ne yapar? Bankacılar ve diğer bürokratlar bütün gün güven inşa etmekle meşguldür. İşleri, birbirini kişisel olarak tanımayan büyük sayıda yabancı arasında güven inşa etmek ve böylece türün neredeyse her şeyinin elde edilmesinin temeli olan büyük ölçekli işbirliğini sağlamaktır. Örneğin, kişisel olarak pek tanımadığım bankacım, tasarruflarımı bankasına koymak isteyeceğimden emin olmak için benimle güven inşa etmek için bütün gün çok çalışıyor. Aynı zamanda, bankacı, yeni bir şirket kurmak için paraya ihtiyacı olan bir girişimciyle güven inşa etmek için çok çalışıyor. Ve bankacı benim tasarruflarımı o girişimciye borç veriyor. Böylece bankacı, benimle girişimci arasında bir güven köprüsü kurmuş oluyor. Girişimciyi hayatımda hiç tanımamış olsam bile, şimdi şirketini kurmak için benim tasarruflarımı kullanabilir. Ve iyi çalıştığında finansal sistemin özü budur. Yabancılar arasında güven inşa eder, böylece milyonlarca insan yeni projeler üzerinde kaynaklarını ve yeteneklerini bir araya getirebilir. Ve dünyanın finansal tarihi, insanların giderek daha sofistike güven inşa etme yolları icat etmesinin tarihidir. Para nihayetinde bir güven köprüsüdür. Paranın fikri, pazara gidebilmem, belki yabancı bir şehirde, hayatımda hiç görmediğim, hatta benim dilimi konuşmayan bir insanla tanışabilmem ve o kişiye parlak bir metal parçası veya renkli bir kağıt parçası vererek, bana yiyebileceğim ekmek vereceğidir. İşte paranın yarattığı güven köprüsü. Elbette madeni para ve banknot sadece başlangıçtır. Yüzyıllar boyunca insanlar, çekler, tahviller, hisse senetleri, ETF'ler, krediler, ipotekler ve bileşik faiz gibi güven inşa etmek için giderek daha sofistike finansal araçlar icat ettiler. Tüm bunlar nihayetinde milyarlarca yabancı arasında güven inşa etmekle ilgilidir. Ve bu tüm bürokrasi için de aynıdır. Hukuk sistemi için de aynıdır. Avukatların yapması gereken budur, güven inşa etmek. Devlet görevlileri, piskoposlar ve muhasebeciler işe gittiklerinde bunu yaparlar. Güven inşa etmeleri gerekir. Şimdi, tüm bu bürokratik sistemler hakkında not edilmesi gereken önemli şey, nispeten dar bir zekanın, kimseyi incitmek istemem ama zekanın çok dar bir alanında uzmanlaşmış bir zekanın, dünya üzerinde muazzam bir etki yaratmak için yeterli olduğu son derece yapay ortamlardır. Bir avukat, bir bankacı veya bir balta veya çekiç tutmayı bile bilmeyen bir devlet görevlisi, sadece bürokratik ağ içindeki verileri, belgeleri oradan oraya taşıyarak bütün ormanları kesebilir ve bütün şehirler inşa edebilir. Elbette, avukatı bürokratik sistemden çıkarıp kaotik, yapılandırılmamış ormana atarsanız, yasal becerileri hiçbir şey ifade etmez ve bir şempanzeye, bir aslana veya bir file rakip olamaz. Ancak ormana zaten bürokratik sistemlerimizi dayattık. Bu yüzden avukatlar, dünyadaki tüm aslanlardan bile daha güçlüdür, eğer dünyadaki tüm aslanları bir araya getirip bir avukatla rekabet etmelerini isterseniz. Avukata bahse girerim. Bugün aslanlar gibi türlerin hayatta kalması, avukatların, muhasebecilerin ve bankacıların hükümetlerin ve bankaların ve şirketlerin bürokratik labirentlerinde belgeleri taşımasına bağlıdır. Ve yapay zeka ajans kazanıyor işte bu ortamda. Eğer bir yapay zekayı yapılandırılmamış ormana atarsanız, demir madenciliğine başlayamaz ve bir robot ordusu inşa edemez. Ancak insanların zaten yarattığı ve dünyaya dayattığı bürokratik sistemler içinde, yapay zekalar muazzam bir güce sahip olmaya adaydır çünkü bizden farklı olarak yapay zekalar yerli bürokratlardır. Hiçbir avukat İngiltere'nin tüm yasalarını ve düzenlemelerini hatırlayamaz. Bir yapay zeka hatırlayabilir. Hiçbir muhasebeci bir şirketin veya bankanın tüm işlemlerini hatırlayamaz. Bir yapay zeka hatırlayabilir. Hiçbir piskopos, tüm kilise hukuku ve Hristiyan teologların son 2000 yılda yazdığı tüm teolojik metinleri hatırlayamaz. Bir yapay zeka bunu oldukça kolay bir şekilde yapabilir. Bu nedenle önümüzdeki yıllarda, milyonlarca yapay zeka bürokratı giderek artan bir şekilde dünyanın bürokrasilerini devralacak ve sadece aslanlar ve şempanzeler hakkında değil, hayatlarımız hakkında da kararlar verecektir. Yapay zeka bankacıları size kredi verip vermeyeceğine karar verecek. Yapay zeka yöneticileri sizi üniversiteye kabul edip etmeyeceklerine karar verecek. Yapay zeka yargıçları sizi hapse gönderip göndermeyeceklerine karar verecek. Yapay zeka teologları kürtaj yapıp yapamayacağınıza karar verecek. Kurumsal yapay zekalar size iş verip vermeyeceklerine karar verecek. Ve askeri yapay zekalar evinizi bombalayıp bombalamayacaklarına karar verecek. Şimdi, bunun iyi mi kötü mü olduğu sorusunu bir kenara bırakalım. Not edilecek ilk şey, karşı karşıya olduğumuz değişimin büyüklüğünü fark etmektir. Milyonlarca, hatta milyarlarca yapay zeka yakında dünyayı yöneten tüm sistemleri değiştirecektir. Bunun nasıl gerçekleştiğine ve sonuçlarının ne olabileceğine dair birkaç gerçek örnek zaten var. Belki de şimdiye kadarki en iyi örnek, sosyal medyanın ve sosyal medya algoritmalarının hikayesidir. Sosyal medya insanlar tarafından değil, algoritmalar tarafından yönetilir. Sosyal medyadaki bilgi akışını kontrol eden algoritmalar, bunun gibi ilkel yapay zekalar, 10-15 yıl önce başladı. Bu, ilk nesil, çok çok ilkel, aptal, dar yapay zeka gibiydi, ancak yine de dünyayı tamamen değiştirdi. Şimdi, sosyal medya algoritmalarına Facebook ve Tik Tok ve X gibi şirketler tarafından son derece dar bir hedef verildi: kullanıcı etkileşimini en üst düzeye çıkarmak. İnsanların platformda daha fazla zaman geçirmesini sağlamak, çünkü platformda ne kadar çok zaman geçirirlerse, şirket o kadar çok para kazanır. Çok basit, çok dar. Bu kullanıcı etkileşimini sürdürmek için, bu ilkel yapay zekalar önemli bir keşif yaptılar. Milyarlarca insan kobay üzerinde deneyler yaptılar ve insan dikkatini çekmenin ve o insanı ekrana yapıştırmanın en kolay yolunun, insan zihnindeki nefret, korku veya açgözlülük düğmesine basmak olduğunu öğrendiler. Ve bunu nasıl yapacaklarını öğrendiler. Ve bilgi alanına büyük miktarlarda nefret, korku ve açgözlülük yaymaya başladılar. Ve bu, mevcut komplo teorileri, sahte haberler ve dünya çapında toplumları baltalayan sosyal huzursuzluk salgınının ana nedenlerinden biri, tek neden değil, ana nedenlerinden biridir. Şimdi, bu sosyal medya algoritmaları yine, çok ilkel yapay zekalardır. Onları ormana atarsanız, bir robot ordusu inşa edemezler ve dünyayı ele geçirmeye çalışamazlar. Ancak sosyal medyanın bürokratik sistemi içinde, bu çok sınırlı ajanlar muazzam bir güce sahiptir ve dünyayı zaten oldukça dramatik bir şekilde değiştirmişlerdir. Geçmiş yüzyıllarda, medya platformlarındaki bilgi akışı insan editörler tarafından kontrol ediliyordu. Bu bir insan işiydi. Gazetenin manşetine ne konulacağına insan editörler karar veriyordu. Televizyondaki akşam haberlerine hangi öğelerin dahil edileceğine insan editörler karar veriyordu ve böylece insan editörler kamuoyunu şekillendiriyordu ve modern tarihin çok çok önemli figürleriydiler. Örneğin Jean-Paul Marat, etkili gazete L'Ami du peuple'ü düzenleyerek Fransız Devrimi'nin gidişatını şekillendirdi. Edward Bernstein, sosyal demokrat gazeteyi düzenleyerek modern sosyal demokrat hareketi ve sosyal demokrat düşünceyi şekillendirdi. Vladimir Lenin, Sovyet diktatörü olmadan önce bir süre elinde tutabildiği tek işi, Iskra gazetesinin editörlüğüydü. Benito Mussolini, İtalya diktatörü olmadan önce tek işi veya belki de ana işlerinden biri, sağcı ateşli gazete Il Popolo d'Italia'nın editörlüğüydü. Ve düşünmek ilginçtir ki, yapay zekanın insanlardan devraldığı ilk işlerden birinin taksi şoförleri veya tekstil işçileri değil, haber editörleri olmasıdır. Bir zamanlar Lenin ve Mussolini tarafından yapılan iş şimdi yapay zekalar tarafından yapılıyor. Ve bu, gelecek olanın bir işaretidir. Hollywood bilim kurgu filmleri, izleyicileri büyük robot isyanından korkmaya şartlandırdı. Yapay zekaların insan kontrolünden kaçtığını düşündüğümüzde, Terminator gibi sokaklarda koşan ve insanları vuran bir robot ordusu hayal ediyoruz. Ama bu yanlış bir imaj. Ukrayna ve Gazze gibi yerlerde böyle şeyler yaşanmaya başlasa da, yapay zekaların insanlara bu şekilde isyan etmesi pek olası değil. İnsan dünyasını içeriden ele geçirmeleri çok daha olası. İsyan etmelerine gerek yok. İnsan dünyası, çoğumuzun bir dereceye kadar bunlardan faydalanmamıza rağmen, bu bürokrasilerden bir şekilde yabancılaştığı çok sayıda bürokrasiden oluşan bir ağdır. Ancak bizden farklı olarak yapay zekalar bürokratik yerlilerdir. Bürokrasiyi severler. Oysa bizler genellikle bürokrasi tarafından boğulmuş hissederiz. Yapay zekalar için bürokrasi oksijendir. Peki, yapay zekalar en azından kısmen bu bürokrasileri ele geçirdiğinde ne olacak? Unutmayın, bürokrasinin görevi sizi form doldurmaya zorlamak değil, yabancılar arasında güven inşa etmektir. Peki, yapay zekalar dünyadaki güven akışını kontrol ettiğinde ne olur? Muhtemel bir sonuç, ki bunu zaten görüyoruz, insanların birbirlerine olan güvenini kaybetmesi ve yalnızca algoritmalara, yalnızca yapay zekalara güvenmeye başlamasıdır ki bu zaten oluyor. Başka bir olası sonuç da, yapay zekaların diğer yapay zekalarla güven inşa etmeyi öğrenmesidir. Böylece, insanların anlayamayacağı şekillerde milyonlarca yapay zekayı birbirine bağlayan farklı türlerde yapay zeka kabileleri, bankaları ve kiliseleri ortaya çıkacaktır. Tıpkı inekler ve tavuklar gibi, dünyayı bizimle paylaşırlar, ancak hayatlarını kontrol eden insan finansal sistemini anlamazlar. Biz insanlar yakında anlayamayacağımız bir yapay zeka finansal sistemi tarafından kontrol edildiğimizi fark edebiliriz. Ve finans, bence çok önemlidir. Yapay zekanın devralması için en kolay bürokratik sistemlerden biridir, çünkü temelde sadece veri girişi, veri çıkışıdır. Ve tabii ki en önemlilerinden biridir. Örneğin, son büyük finansal krizi, 2007-2008 finansal krizini hatırlarsak, CDO'lar, teminatlı borç yükümlülükleri adı verilen bir şey tarafından tetiklendi. Şimdi CDO'lar, çok az sayıda insan matematikçi ve yatırım sihirbazı tarafından icat edilen finansal araçlardı. Bu finansal araçlar o kadar karmaşıktı ki, sadece inekler ve tavuklar için değil, aynı zamanda finansal sistemi düzenlemesi gereken politikacılar için de anlaşılmazdı. Ve bu, bir denetim başarısızlığına ve küresel bir felakete yol açtı. Birkaç yıl boyunca CDO'lar iyi çalışıyor gibiydi ve çeşitli bankalar, şirketler ve yatırımcılar onlardan milyarlarca dolar kazandı. Ancak daha sonra küresel bir finansal çöküşe ve geniş kapsamlı sosyal ve siyasi sonuçlara neden oldular. Birçok bilim insanı, hükümetlere ve bankalara olan güveni baltalayarak, 2007-2008 finansal krizinin, sonraki yirmi yılda küresel liberal düzenin çöküşüne zemin hazırladığına inanıyor. Peki, yapay zekaların giderek daha fazla finansal karar almasına ve giderek daha fazla yeni finansal araç ve strateji icat etmesine izin verirsek ne olur? Yapay zeka satranç ustaları satranç oynamanın yeni yollarını icat etti. Yapay zeka finans ustaları, CDO'lardan kat kat daha karmaşık ve bu nedenle insan zihinlerinin tamamen kavrayamayacağı finansal araçlar icat ederse ne olur? Böyle araçlar potansiyel olarak finansal verimliliği büyük ölçüde artırabilir ve ekonomik büyümeye katkıda bulunarak finansal sistemin temelini oluşturabilir. Ancak, hiçbir insanın, hiçbir seçmenin, hiçbir politikacının, hiçbir başkanın artık finansı anlayamadığı bir durumda insan siyasetinin anlamı nedir? Ve birkaç yıllık bir patlamadan sonra bir finansal çöküş olursa ve gezegendeki tek bir insan ne olduğunu anlayamazsa ne olur? Biraz daha derine inelim. Yapay zekanın bürokrasiyi devralmaya aday olduğunu ve bürokrasinin milyonlarca yabancı arasında güven inşa eden bir sistem olduğunu söyledik. Bu güven de büyük ölçekli işbirliğinin temelidir ve bu da insanlığın dünyayı hakimiyetinin temelidir. Yani insan hakimiyeti, işbirliğine dayanır, bu da güvene dayanır, bu da bürokrasiler tarafından sürdürülür. Peki bürokrasi neye dayanır? Bürokrasiyi oluşturan atomlar, yapı taşları nelerdir? Ve bürokrasi nihayetinde kelimelerden inşa edilir. Başlangıçta kelime vardı. İnsanların bürokrasi yaratabilmesinin, şempanzelerin ise yaratamamasının nedeni, kelimelerimizin olması ve onların olmamasıdır. Bir iletişim sistemleri var ama dilimiz, şempanze iletişim sisteminden kat kat daha sofistike. Bankalardan kiliselere kadar bürokratik sistemler nihayetinde formları, mektupları, yasa kodlarını, vergi kayıtlarını ve muhasebe defterlerini ve kutsal kitapları oluşturan kelimelere dayanır. İnsan uygarlığının işletim kodu dil jetonlarından oluşur. Binlerce yıl boyunca, sadece bizim anlayabileceğimiz bir sistem yaratmak için bu dil kodunu kullandık. Ve bu sistemi gezegene dayattık. Bunu yaparken kendimizi tamamen güvende hissettik çünkü dünyada başka kimse uygarlık kodunu anlamıyordu. Para ve bankaları icat ettik ve inekleri alıp satmak için kullandık. Ama ineklerin kendileri banka hesabı açamaz veya borsaya para yatıramazdı çünkü dilleri yok. Atlarla ilgili yasalar ve düzenlemeler icat ettik, ancak atların kendileri bir avukat tutamaz ve bir yargıca yasal kodu alıntılayamazdı. Domuzlarla ilgili dini kurallar ve yasaklar icat ettik, ancak domuzların kendileri İncil'i okuyamaz ve rahiplerin ve hahamların yorumlarına itiraz edemezdi. Bürokrasi gezegende her yerdeydi, ancak bizden başka herkes için tamamen görünmezdi. İnsanlar dışında kimse bürokrasinin ve büyük ölçekli işbirliğinin temeli olan yasa kodlarını, kutsal kitapları ve banka kayıtlarını okuyamazdı. Bu şimdi değişiyor. Şimdi gezegende dili bizden daha iyi anlayan, yakında anlayacak bir şey var ve bu nedenle bize karşı üstünlük kurabilir. Yapay zekalar insan uygarlığının kodunu hackliyor. Ve yapay zekalar parayı, hukuku ve dini bizden daha iyi anladığında ne olur? Binlerce yıldır yarattığımız kontrol mekanizmaları, yapay zeka devralması için son derece savunmasızdır çünkü işletim sistemleri, yapay zekanın artık ustalaştığı sözel bir koddur. Şimdi, olası bir etik ve felsefi itiraz, hukuk sistemi veya din gibi şeyleri dil jetonlarına ve kelimelere indirgemenin yanlış olduğudur. Tartışmalı bir şekilde, ve bu binlerce yıldır süren bir argüman, kelimeler sadece onların ötesinde bir şeyi işaret eder ve muhtemelen yapay zekaların da kavrayamayacağı bir şeyi işaret eder. İncil sadece başlangıçta kelime vardı demekle kalmaz, aynı zamanda kelimenin etten yapıldığını da söyler. Tao Te Ching, kelimelerle ifade edilebilen gerçeğin tanım gereği mutlak gerçek olmadığını söyler. Ve tarih boyunca kelime ve et, kelimelerle ifade edilebilen gerçek ve kelimelerin ötesindeki gerçek arasında her zaman bu gerilim olmuştur. Daha önce bu gerilim insanlar arasında vardı. Örneğin, kelimelere çok bağlı olan bazı insanlar, İncil'deki birkaç kelime yüzünden gay oğullarını terk etmeye, hatta öldürmeye bile istekliydiler. Diğer insanlar ise, "Bunlar sadece kelimeler. Sevginin ruhu, kanunun harfinden daha önemli olmalı" dediler. Ve ruh ile harf arasında bu gerilim vardı. Ve bu sadece Hristiyanlık, Yahudilik ve İslam'da değil, her dinde, her hukuk sisteminde ve hatta her insanın içinde de vardı. Bu gerilim vardı. Şimdi bu gerilim dışsallaşacak. Yapay zekalar ve insanlar arasındaki gerilim haline gelecek. Kelimelerden yapılmış her şey yapay zeka tarafından devralınacak. İnsanların dünyadaki yeri, kelimelerin ötesindeki gerçeğe atfettiğimiz yere bağlı olacaktır. Peki kelimelerin ötesindeki gerçek nedir? Ve insan düşüncesi kelimelerin ötesindeki gerçeği kavrayabilir mi? Felsefe dilinde binlerce yıldır süregelen önemli bir soru, kelimelerle mi düşünüyoruz, yoksa sadece kelimeleri onların ötesindeki şeyleri işaret etmek için mi kullanıyoruz? Şimdi, düşünme sürecinizi gözlemlemeye çalışabilirsiniz. Düşünürken zihninizde ne olur? Bazı insanlar, yakından gözlemlerlerse, zihinlerinde sadece kelimelerin zihinlerinde belirdiğini ve cümleler oluşturduğunu, cümlelerin mantıksal argümanlar oluşturduğunu görürler. Tüm insanlar ölümlüdür. Ben bir insanım. Bu nedenle ben ölümlüyüm. Düşünmek sadece bu kelimeleri belirli bir mantıksal sonuca götürecek şekilde sıralamak mıdır, yoksa bu dil jetonlarını belirli bir oluşuma yerleştirmek midir? Eğer durum buysa, yapay zekalar zaten en azından bazı insanlardan daha iyi düşünüyor ve yakında hepimizden daha iyi düşünecek. Bazıları hayır, hayır, hayır, yapay zekalar sadece yüceltilmiş otomatik tamamlama diyor. Sadece bir cümledeki sonraki kelimeyi tahmin ediyorlar. Ama bu, insan zihninin yaptığından ne kadar farklı? Yine, zihninizdeki düşünme sürecini, cümleler ve argümanlar oluşturmayı gözlemlemeye çalışın. Orada ne oluyor? Zihninizde beliren bir sonraki kelimeyi gözlemlemeye çalışın. Nereden geldiğini gerçekten biliyor musunuz? Neden bu belirli kelimeyi düşündünüz de başka bir kelimeyi değil? Kendi zihnimi gözlemlemeye çalıştığımda, bir cümleye başladığımda, genellikle nasıl biteceğini bile bilmediğimi fark ediyorum, bu da bir konuşmacı için korkutucu, bu yüzden her şeyi yazıyorum. Ama cümleyi nasıl bitireceğimi bilmiyorsam? Nasıl biteceğini bilmiyorum. Ama az önce söylediğim cümleyi ele alalım. Nasıl biteceğini bilmediğimi söyledim. Neden "son" kelimesiyle bitti? Neden "nasıl sonuçlanacağı", "nasıl gelişeceği", "nasıl sonuçlanacağı" demedi? Cümledeki son kelimenin "son" olacağını ne belirledi? Açıkçası bilmiyorum. İnsan zihninin cümleleri ve düşünceleri nasıl oluşturduğunu tam olarak anlamıyoruz. Ancak yine, dil jetonlarını sıralama konusunda, yapay zeka zaten bizden çok daha iyi olma yolunda ilerliyor. Ve bugün olduğu gibi, hiçbir insan satrançta bir yapay zekayı yenemezken, yakında hiçbir insan dil oyunlarında bir yapay zekayı yenemeyecek. Herhangi bir alanda, yine, finansdan dine kadar, kelimelerden yapılmış her şey yapay zeka tarafından devralınacaktır. Ve bu yüzden yapay zeka, nihayetinde kelimelere ve dil jetonlarına dayandıkları için dünyanın bürokrasilerini devralmaya adaydır. Şimdi, yapay zekalar bürokrasileri devraldıkça, insanlar daha eski ve çoğumuz için bürokrasiden daha değerli bir şeye, yani kişisel ilişkilere geri çekilmeye çalışabilirler. Bürokrasi sadece birkaç bin yıllıktır ve çoğumuz aslında ondan hoşlanmasak da, yaptığımız neredeyse her şey için sürekli ona güveniriz. Kişisel ilişkiler milyonlarca yıllıktır ve çoğumuz veya çoğumuz onların hayattaki en önemli şey olduğunu düşünürüz. Ancak yapay zeka dil konusunda ustalaştıkça, sadece bürokrasiyi değil, aynı zamanda kişisel ilişkileri de bir dereceye kadar devralabilir. Son 10 yılda, ilkel sosyal medya algoritmalarının insan dikkatini kontrol etmeyi nasıl öğrendiğini gördük. Şimdi savaş cephesi dikkatten samimiyete kayıyor. Önümüzdeki 10 yıl içinde, çok daha sofistike yapay zekalar, insanlarla samimi ilişkiler kurmayı ve en azından kısmen sosyal sistemlerimizi devralmayı öğrenecek. İnsanlarla samimiyet kurmak için, bir yapay zeka muhtemelen bize yapay zekanın bilinçli olduğuna, sevgi, acı, öfke ve korku gibi şeyleri hissedebildiğine ikna etmesi gerekecektir. Şu anda, yapay zekanın bir noktada bilinçli olabileceğine ve bir noktada acı veya sevgi hissedebileceğine dair kesinlikle hiçbir kanıt yoktur. Ancak yapay zeka dil konusunda ustalaştığı için, yapay zeka sevgi hissetmese bile sevgi hissettiğini iddia edebilir. Yapay zeka bugün bile "Seni seviyorum" diyebilir. Ve eğer onu sorgularsanız, sevginin nasıl hissettirdiğini bana tarif et. Böylece gerçekten hissettiğini biliyorum. Yapay zeka dünyadaki en iyi tarifi sağlayabilir. Yazılmış tüm aşk şiirlerini ve yazılmış tüm psikoloji kitaplarını okuyabilir ve her kelimeyi hatırlayabilir ve sevgi hissini herhangi bir insan şairinden, psikologdan veya sevgiliden daha iyi tarif edebilir. Ve bu, insanlık tarihindeki en büyük psikolojik ve sosyal deneylerden biri olacak. Milyarlarca insan kobay üzerinde yürütülecek ve kimsenin deneyin sonuçları hakkında en ufak bir fikri yok. Ben şimdi 50 yaşındayım. Yani ilişkilerim için şablonum, ebeveynlerimle, kocamla, kız kardeşlerimle, yeğenlerimle, yeğenlerimle, arkadaşlarımla ve köpeklerimle olan önceki ilişkilerimin on yıllarca süren deneyimleriyle zaten şekillendi. Yapay zekalarla etkileşimim arttıkça, ilişkiler hakkındaki varsayımlarımı, alışkanlıklarımı getiriyorum ve bu dramatik bir şekilde değişmeyecektir. Ancak 2026'da doğan, bugün doğan bir çocuğu düşünün. Çocuk büyüdükçe, sürekli olarak yapay zekalarla ve insanlarla etkileşimde bulunur. Belki de bir ilişkinin önemini yalnızca diğer varlıkla etkileşimde geçirilen dakikalar cinsinden ölçerseniz, belki de o çocuğun hayatındaki en önemli ilişkiler çok erken yaşlardan itibaren yapay zekalarla olacaktır. Belki de annesiyle, babasıyla, kardeşleriyle veya arkadaşlarıyla geçirdiği zamandan daha fazla zaman geçirir. Ve bu, çocuğun ilişkiler, sosyal bağlar ve bağlar kurma konusundaki beklentilerini şekillendirecektir. Belki de o çocuğun ilk öğretmeni bir yapay zeka öğretmeni olacaktır. Belki de o çocuğun ilk erkek arkadaşı bir yapay zeka erkek arkadaşı olacaktır. Ve yine, sonuçları ne olacak? Kimsenin en ufak bir fikri yok. Bilinçli görünen ama aslında olmayan bir varlıkla samimi bir ilişki kurmak ne anlama gelir? Tarihin en iyi aşk şiirini yazabilen ama sevgi veya başka bir şey hissetmeyen bir varlıkla. Tüm bunlar, konuştuğumuz her şey ve bu dersin sonuna geliyorum. Bahsettiğimiz her şey, dünyanın her ülkesinin yakında büyük bir göç dalgasıyla karşı karşıya kalacağı anlamına gelir. Bu seferki göçmenler, kırılgan teknelerde vizesiz gelen veya gece yarısı sınırı gizlice geçmeye çalışan insanlar olmayacak. Göçmenler, neredeyse ışık hızında seyahat edebilen ve vizeye ihtiyaç duymayan milyonlarca, belki yüz milyonlarca yapay zeka olacak. İnsan göçmenler gibi, bu yapay zeka göçmenleri de yanlarında birçok fayda getirecek. Sağlık sisteminde yardımcı olacak yapay zeka doktorlarımız, eğitim sisteminde yardımcı olacak yapay zeka öğretmenlerimiz, hatta yasa dışı insan göçmenleri durdurmak için yapay zeka sınır muhafızlarımız olacak. Ancak yapay zeka göçmenleri sorunları da beraberinde getirecek. İnsan göçü konusunda endişeli olanlar genellikle göçmenlerin işleri alabileceğini, yerel kültürü değiştirebileceğini ve siyasi olarak sadakatsiz olabileceğini belirtirler. Tüm insan göçmenler için bunun kesinlikle doğru olduğundan emin değilim, ancak yapay zeka göçmenleri için kesinlikle doğru olacaktır. Yapay zeka göçmenleri, haber editörlerinden bankacılara kadar birçok insan işini alacaktır. Yapay zeka göçmenleri her ülkenin kültürünü tamamen değiştirecektir. Sanatı, dini ve hatta romantizmi değiştirecekler. Bazı insanlar oğlunun veya kızının bir göçmen erkek arkadaşla çıkmasından hoşlanmaz. Bu insanlar, oğulları veya kızları bir yapay zeka erkek arkadaşla çıkmaya başladığında ne düşünecekler? Ve tabii ki, yapay zeka göçmenlerinin bazı şüpheli siyasi sadakatleri olacaktır. Muhtemelen ev sahibi ülkeye değil, denizaşırı bir şirkete veya hükümete veya belki de yeni bir yabancı yapay zeka kabilesine sadık olacaklardır. Bu devasa göç dalgası medeniyetin sonu anlamına gelmez, ancak medeniyetin tamamen insan işi olmaktan çıkıp hibrit bir insan-yapay zeka işi haline geldiği nokta olacaktır. Yapay zekaların görüşlerinin, çıkarlarının ve hedeflerinin muhtemelen en azından insanlarinkiler kadar önemli olacağı nokta. Son bir konu da, yapay zeka göç dalgasının belki de en önemli ilişkimizle, yani kendimizle ne yapacağıdır. Kendimizle olan ilişkimiz de bir dereceye kadar kelimelere dayanır. Zihnimizdeki kelimeler, düşüncelerimiz, kendimiz hakkında anlattığımız hikayeler. Bugüne kadar, insan zihinlerindeki tüm sözel oluşumlar insan zihinlerinin ürünüydü. Ya kelimeleri yeni bir oluşuma, yeni bir düşünceye kendimiz birleştirdik ya da başka bir insan zihninden belirli bir kelime kombinasyonu aldık. Ancak yakında, zihinlerimizdeki sözel kombinasyonların giderek daha fazlası yapay zekaların ürünü olacaktır. Evimizdeki mobilyalar artık bizim veya insan zanaatkarlar tarafından yapılmadığı gibi, çoğunlukla makineler tarafından seri üretiliyor. Benzer şekilde, zihnimizdeki düşünceler de giderek artan bir şekilde makineler tarafından seri üretilecek. Şimdi, bu mutlaka kötü değil. Evimdeki mobilyaların IKEA'daki makineler tarafından yapılması sorun değil, yeter ki bu mobilyalarla ne yapacağım konusunda bir özgürlüğüm olsun. Düşüncelerle ilgili soru, bu düşüncelerden ne ölçüde özgürlüğümüzün hala olacağıdır. Düşüncelerimizle özdeşleşirsek, ben düşüncelerimim. Düşünüyorum, öyleyse varım. İnek dediği gibi, eğer düşüncelerimizle özdeşleşirsek ve bu düşünceler makineler tarafından yapılmışsa, o zaman makineler bizi ve kimliğimizi kontrol eder. İnsanlar sözel düşünceleriyle özdeşleşmekten ve onlar tarafından kontrol edilmekten kaçınabilir mi? Bu her zaman insanlığı karşı karşıya bırakan en büyük entelektüel ve ruhsal zorluklardan biri olmuştur. Çoğu insan bunu denememiştir bile. Tüm hayatımızı, zihnimizdeki sözel oluşumlarla otomatik olarak özdeşleşerek geçiriyoruz. Şimdi yapay zeka, insanlığı bu ruhsal sıçramayı yapmaya zorlayabilir, kelimelerin ötesindeki gerçeği gerçekten keşfetmeye başlayabilir, çünkü özgürlüğümüz ve hayatta kalmamız artık buna bağlıdır, çünkü kelimeler başka bir şey, bu yapay zekalar tarafından kontrol edilecektir. Yani bu, insanlığın önündeki büyük görev olabilir, nihayet kelimelerin ötesindeki gerçeği keşfetmek. Ve bu keşif gerçekten de zihninizde beliren bir sonraki kelimeyle başlar. Nereden geldiğini biliyor musunuz? Neden o belirli kelimeyi düşündünüz de başka bir kelimeyi değil? Teşekkür ederim.