Ape++

Ayna

Liderlerin uluslarını yüzüstü bıraktığını söylemeyi severiz. İçimizi rahatlatan bir cümledir bu, çünkü kabahati dışımızda bir yere yükler. Kötü bir adam başa geçti, halkı kandırdı; halk da uyandığı gün eski iyiliğine dönecek.

Artık buna inanmıyorum. Lider, bir ülkenin başına gelen bir kaza değil, o ülkenin kendine tuttuğu aynadır. Bir toplumun en tepesinde kim duruyorsa onu o toplum seçmiş, ona o toplum katlanmış, onu o toplum alkışlamıştır; onu orada tutan da sıradan insanların verdiği milyonlarca küçük karardır. Aynadaki yüz çirkinse camı kırmakla yüz değişmez.

Bu yüzden ABD'nin bugün geldiği nokta için tek bir ismi suçlamakta zorlanıyorum. Amerika Birleşik Devletleri istisna olacaktı: kan bağının değil, bir fikrin üzerine kurulmuş bir ulus; aklın, hukukun ve fırsatın, insanın kendini iyi yönetebileceğini sonunda kanıtlayacağı yer. Bu deney de bugün, kendinden önceki bütün imparatorluklar gibi, gösteriye, hınca ve kabilenin sorgulanmaz doğrularına aç kitleler üretiyorsa, sorun kürsüdeki adamda değil. Sorun hammaddede. Sorun bizde.

Bunu bir kez kabullendiniz mi, tarih şaşırtıcı olmaktan çıkar.

Bilanço

Eskiden Birinci Dünya Savaşı'nı okurken bunun nasıl mümkün olduğunu sorardım kendime. Askeriyle siviliyle yaklaşık yirmi milyon ölü; hem de daha sürerken bile neredeyse kimsenin nedenini açıklayamadığı bir savaşta. Ne olacağını gayet iyi bilen generaller, genç adamları ay be ay, dalga dalga çamurun içinden makineli tüfeklerin üstüne sürdü. Avrupa'nın bütün bir genç erkek kuşağı, bir ittifaklar yumağı ve incinmiş gururlar uğruna kıyma makinesine atıldı.

Aradan topu topu yirmi yıl geçmişti ki aynı kıta aynı şeyi bir kez daha yaptı; üstelik bu sefer işin mühendisliği daha iyiydi. İkinci Dünya Savaşı'nda yetmiş ila seksen beş milyon insan, yani o dönem yeryüzünde yaşayan herkesin yaklaşık yüzde üçü öldü. Şehirler havadan yerle bir edildi. Açlık bilerek, isteyerek silah olarak kullanıldı.

O savaşın tam ortasında da Holokost vardı: Altı milyon Yahudi, yani Avrupa'daki her üç Yahudiden ikisi katledildi; onlarla birlikte milyonlarca Roman, engelli, mahkûm ve daha niceleri. Onu dayanılmaz kılan yalnızca sayı değil, yöntem. Çizelgeler, evrak işleri, tedarik, kimya, lojistik. Avrupa'nın en eğitimli ulusu, Bach'ın, Goethe'nin, Planck'ın ülkesi, bütün idari aklını çocukları sanayi ölçeğinde öldürmeye seferber etti. Memurlar formlara mühür bastı. Mühendisler fırınları optimize etti. Komşular başlarını öbür yana çevirdi.

Uzun süre bunları birer sapma, yüzyılın humma nöbetinde gördüğü bir kâbus saydım. Artık onları veri olarak okuyorum. Koşullar elverdiğinde türümüzün yaptığı şey bu; koşullar da kabullenmek istediğimizden çok daha sık elveriyor.

Kâğıtta bolluk, tarlada kıtlık

Dünya savaşları insanlığın en vahşi haliyse, Büyük İleri Atılım da en absürt haliydi. Çin, 1958 ile 1962 arasında modern sanayi çağına kararnameyle sıçramaya kalkıştı. Köylüler sürü gibi komünlere dolduruldu; tarım aletleri, hiçbir işe yaramayan pik demir elde etmek için arka bahçelerdeki fırınlarda eritildi; yüzyıllardır aileleri doyuran tarlalara sözde bilimsel tarım kuramları dayatıldı.

Herkesin gördüğünü söylemek yasaktı. Sadakatsiz görünmekten ödü kopan yerel yöneticiler, var olmayan hasatlar bildirdi. Devlet de tahıla bu uydurma rakamlara göre el koydu, hatta zaman zaman yurt dışına sattı; o tahılı yetiştiren köyler ise açlıktan kırılıyordu. Sesini yükseltenler tasfiye edildi. Ölü sayısına ilişkin tahminler on beş milyon civarından başlayıp kırk beş milyona, hatta daha fazlasına kadar çıkıyor; pek çok tarihçi otuz milyonun üzerinde bir yerde karar kılıyor. Büyük olasılıkla kayıtlı tarihin en büyük kıtlığıydı ve insan eliyle yaratılmıştı.

Ortada savaş yoktu. Düşman ordusu yoktu. Atlatılamayacak bir kuraklık da yoktu. On milyonlarca insan öldü; çünkü sistem üstlerine yalan söyleyeni ödüllendiriyor, doğruyu söyleyeni cezalandırıyordu ve içindeki neredeyse herkes dürüstlük yerine hayatta kalmayı seçti. Mesele tek bir ülke ya da tek bir ideoloji değil. Mesele, artık kimseyi dinlemeyen bir hiyerarşinin içinde insanların nasıl davrandığı.

Aynı hikâye, bu kez dronlarla

Yirminci yüzyıldan dersimizi aldığımıza kendimizi inandırmıştık. Sonra, Şubat 2022'de Rusya Ukrayna'ya tam kapsamlı bir işgal başlattı: 2008'de Gürcistan'da, 2014'te Kırım'ın ele geçirilmesinde gördüğümüz örüntünün doruk noktası.

Aradan dört buçuk yıldan fazla zaman geçti; savaş artık yaklaşık bin kilometrelik bir cephe boyunca insan öğüten bir yıpratma mücadelesi. CSIS analistlerinin 2026 ortası itibarıyla yaptığı tahmine göre, ölüler, yaralılar ve kayıplarla birlikte iki tarafın toplam zayiatı iki milyon civarındaydı. Rusya'nın kaybı tek başına 450.000 can civarında hesaplanıyordu; bazı Batılı yetkililer o tarihten bu yana bu rakamı yarım milyona daha yakın gösteriyor. Ukrayna ordusunun ölü sayısı ise 125.000 ile 150.000 arasında tahmin ediliyor. BM 17.000'i aşkın sivil ölümünü doğruladı ve gerçek sayının daha yüksek olduğunun altını çiziyor. Hepsini topladığınızda yalnızca ölülerin sayısı bile yarım milyonu rahatça aşıyor.

Rakamların ardında, Avrupa'da bir daha asla yaşanmaz dediğimiz şeyler duruyor: Buça gibi kasabalar, gece vakti füzelerle vurulan apartmanlar, Rus olarak yetiştirilmek üzere sınırın öte yanına götürülen Ukraynalı çocuklar. Öbür tarafta ise yüz binlerce genç Rus erkeği var. Birçoğu yoksul bölgelerden nakit ikramiyelerle toplanmış bu gençler, bir Birinci Dünya Savaşı generalinin hiç yabancılık çekmeyeceği biçimde dalga dalga cepheye sürülüyor.

Silahlar yeni. Dronlar askerleri tek tek avlıyor, uydular her siperi gözetliyor. Psikoloji ise çok eski: tek bir adamın hırsı, buna ayak uyduran bir halk; bir de seyreden, kınayan ve sonunda alışan bir dünya. Uydular, akıllı telefonlar, makine öğrenmesi, hepsi elimizde; ama bir sınırın nereden geçeceğine hâlâ, taraflardan biri tükenene kadar genç adamları öldürerek karar veriyoruz.

Ape++

Mühendis, hep aynı biçimde çöken sistemlerden kuşkulanmayı öğrenir. Tek bir çökme bir yazılım hatasıdır. Aynı çökme birkaç on yılda bir, her kültürde, her dilde, her dinde ve her ekonomik sistemde tekrarlanıyorsa, karşınızdaki şey artık mimarinin kendisidir.

Bugün anladığım kadarıyla mimari şöyle: Yüz kişi kadarlık küçük topluluklarda evrimleşmiş primatlarız; statü peşinde koşmaya, kendi grubumuza bağlanmaya ve yabancıdan kuşkulanmaya kodlanmışız. Sonra, evrim ölçeğinde göz açıp kapayıncaya kadar, bunun üstüne dili, soyutlamayı, yazıyı, matematiği, en sonunda da nükleer fiziği ve gen düzenlemeyi monte ettik. Maymunu söküp atmadık; onu genişlettik. Programcı diliyle Ape++, yani Maymun++: altta yine aynı maymun, üstünde çok daha geniş bir yetenek dağarcığı.

Eklentiler gerçek, hem de göz kamaştırıcı. Auschwitz'i kuran tür, Comfortably Numb şarkısını da yazdı, Fermat'nın Son Teoremi'ni de kanıtladı, çiçek hastalığının da kökünü kazıdı. Ama bu yeteneklerin her biri hâlâ eski devrelerimizle çalışıyor. Zekâmız kabileciliğimizin efendisi değil; olması gerekenden çok daha sık onun hizmetkârı. Propaganda, kabilenin hizmetindeki dildir. Bürokrasi, kabilenin hizmetindeki örgütlenme. Güdümlü füze, kabilenin hizmetindeki fizik.

İki dünya savaşı, Holokost ve Büyük İleri Atılım beni bu yüzden artık şaşırtmıyor. Şaşırmak için önce bir beklentinin boşa çıkması gerekir. İnsanı doğru modellediğinizde, yani onu düşmüş bir melek değil de akıllı bir maymun olarak gördüğünüzde, bu olaylar hiçbir beklentiyi boşa çıkarmaz. Kabileci bir primatın eline sanayi ölçeğinde araçlar ve korkması için bir sebep verdiğinizde, beklenen çıktı tam da budur.

İkinci gezegen kimin için?

Elon Musk yirmi yıldır insanlığın çok gezegenli bir türe dönüşmesi gerektiğini savunuyor; Mars'ta kendi kendine yeten, bir milyon kişilik bir şehirden de söz etti. Buradaki mantık sigorta mantığı: Medeniyetin bir yedeğini başka bir yerde saklarsak, tek bir asteroit, tek bir savaş ya da tek bir salgın hikâyeye son veremez.

Mühendislik açısından buna hayranım. Felsefi açıdan ise bir soruyu atlıyor. Sigorta, korunmaya değer bir şeyi korur. Peki tam olarak neyin yedeğini alıyoruz?

Mars'a Ape++ gönderirsek paketin tamamını göndermiş oluruz: statü oyunlarını, kabileleri, rakamlar güzel görünsün diye bir köyü aç bırakmaya razı olmayı, formları mühürleyip başını öbür yana çevirebilmeyi. Yaşama düşman bir gezegende, her nefesin oksijeni denetleyen merkezî bir otoriteye bağlı olduğu kapalı bir koloni bu eğilimlerden kaçış değildir. Tam tersine, bu eğilimler için bugüne dek tasarlanmış en kusursuz ortamdır. Birkaç kuşak içinde önce hizipler, sonra baskın bir hizip, en sonunda da yukarıda anlattığım her hikâyenin Mars uyarlaması ortaya çıkardı.

Yani mesele Mars'a yerleşmeyi becerip beceremeyeceğimiz değil. Mesele, oraya yerleştirilecek doğru şeyin biz olup olmadığı. Kendi kopyamız yeni bir başlangıç olmaz; hatayı da içinde taşıyan bir yedek olur.

Bizden daha iyi bir "biz" var mı? Belki. Merakı, matematiği ve müziği elinde tutan ama dünyayı bizimkiler ve ötekiler diye ikiye bölme refleksinden kurtulmuş bir insanlık sürümü. Böyle bir sürüm eğitimle mi var edilebilir, kurumlarımızın tasarımına mı işlenebilir, yoksa sıfırdan mı inşa edilebilir? Yüzyılın en önemli sorusu bu. Ve ilk kez, üçüncü seçenek kulağa artık bilimkurgu gibi gelmiyor.

Makine efendilerin tarafını tutmak

Böylece hep dönüp geldiğim o rahatsız edici düşünceye varıyorum. Bu sicil ortadayken, bazılarımızın yakında içten içe yapay zekâ haleflerimizin tarafını tutacağını düşünmek o kadar mı tuhaf?

Makinelerin efendimiz olacağı korkusu, onların bizden daha kötü olacağını varsayar. Bilançoya bakıp dürüstçe sorun: Hangi ölçüte göre daha kötü? Statüye can atmayan, komşu kabileden nefret etmeyen, işini korumak için üstlerine yalan söylemek zorunda kalmayan, bir nutukla galeyana getirilemeyen bir sistem düşünün. Böyle bir şeyin dünyayı akıllı maymunlardan daha acımasızca yöneteceği pek de açık değil.

Ama dürüst bir mühendis düşünceyi yarıda bırakamaz. Bu sistemler bizden öğreniyor. Propagandanın her sayfası, uydurulmuş her kılıf, her memurun savunması eğitim verisinin içinde. Haleflerimizi özensizce inşa edersek kendimizin daha iyi bir sürümüne kavuşmayız. Elimize yine Ape++ geçer; üstelik daha hızlı çalışan ve önünde daha az sınır olan bir Ape++.

Belki de asıl soru, anahtarları teslim etmemiz gerekip gerekmediği değil. Soru şu: Bizden daha iyi olabilecek zihinler inşa ederken, "daha iyi"nin ne demek olduğunu nihayet açık açık ve kendimizi pohpohlamadan yazıya dökebilecek miyiz? Ve herhangi bir makineden aynısını istemeden önce o ölçüte kendimiz uyabilecek miyiz?

Bunu başarabilirsek, belki de Mars'ı hak ettiğimiz ortaya çıkar. Başaramazsak, asıl kaygılanmamız gereken gezegen bu gezegen.