← Bloga dön

My Blog: Post AGI · Yazı 12

Bildiğimiz Dünyanın Sonundaki Mezuniyet Konuşması

Ilya Sutskever'in Yapay Zekâ Kehanetine Yakından Bakış

Gökhan Mergen portresi
Gökhan Mergen My Blog: Post AGI

Dünyanın en iyi üniversitelerinden birinden diploma alabilmek için hayatınızın dört ila on yılını problem setleriyle boğuşarak, tez yazarak, sabahlara kadar çalışarak geçirdiğinizi düşünün. Cübbenizi giymiş, görkemli tören salonunda oturuyor ve onur konuğunun âdet olduğu üzere "gelecek sizin ellerinizde" türünden klişeleri sıralamasını bekliyorsunuz.

Kürsüye ise Ilya Sutskever çıkıyor.

Sutskever ne tipik bir akademisyen ne de tipik bir Silikon Vadisi hype tüccarı. Geoffrey Hinton'un öğrencisi, OpenAI'ın kurucu ortaklarından biri ve eski baş bilim insanı, Safe Superintelligence Inc. (SSI) şirketinin de kurucusu. Derin öğrenme devriminin ardındaki en önemli vizyoner olduğu bile söylenebilir. Konuştuğunda bütün teknoloji dünyası durup dinliyor, çünkü son on beş yılda yapay zekâ hakkındaki sezgileri bir bir gerçeğe dönüştü.

Haziran 2025'te mezun olduğu Toronto Üniversitesi'nde yaptığı mezuniyet konuşması sakin ve alçakgönüllüydü. Ama sözlere gerçekten kulak verirseniz, yeri yerinden oynatan bir konuşmaydı. Yumuşak bir açık sözlülükle, yeni mezunlarla dolu salona özetle şunu söyledi: On yıl içinde makineler, onların yıllarını vererek öğrendikleri her şeyi kelimenin tam anlamıyla yapabilecek ve insanlık, varoluşunun en büyük sınavına doğru hızla ilerliyor.

Bu yazıda Sutskever'in konuşmasındaki hipotezleri derinlemesine ele alıyorum: Ne öngörüyor, bunlar ne zaman gerçekleşecek, ne kadar olası ve insanlığın geleceği için ne ifade ediyor?

1. Temel Hipotez: "Biyolojik Bilgisayar" Argümanı

Konuşmanın merkezinde aldatıcı ölçüde basit bir tasım duruyor. Bu tasım, makinelerin gerçekten "düşünüp" düşünemeyeceği üzerine onlarca yıldır süren felsefi tartışmayı tek hamlede yarıp geçiyor.

Sutskever, yapay zekânın insanların yapabildiği her şeyi yapacağı günün geldiğini söylüyor. Yalnızca bazı görevleri ya da dar alanları değil, herhangi bir insanın öğrenebileceği her şeyi. Bundan nasıl bu kadar emin olabiliyor?

"Çünkü hepimizin bir beyni var. Beyin de biyolojik bir bilgisayar... Öyleyse dijital bilgisayar, yani dijital bir beyin neden aynı şeyleri yapamasın?"

Zihin felsefesinde ve bilgisayar biliminde buna substrat bağımsızlığı deniyor. Bilgi işlemek için karbona, nöronlara ve kana gerek yok; hesaplama gücü, bellek ve doğru algoritmik mimari yeterli. İnsan beyni fizik yasalarına tabi, sonlu bir fiziksel sistem. Öyleyse silikon tabanlı bir sistemin bizdeki her bilişsel yeteneği kopyalamasının, sonunda da onları fersah fersah aşmasının önünde sihirli bir engel yok.

Sutskever'in dediği gibi bugünkü yapay zekâ hem "heyecan uyandırıcı" hem de "eksik". Bizimle konuşabiliyor, kod yazabiliyor; tarihte eşi görülmemiş bir şey bu. Ama hâlâ tökezlediği yerler var. Yine de bugünün kusurlarını kalıcı tavanlar sanmak, ölümcül bir hayal gücü yoksulluğu olur.

2. Ne Zaman? (Zaman Çizelgesi)

Sutskever kesin tahmin yapmanın zor olduğunu kabul ediyor: "Kimileri üç [yıl] diyor, kimileri beş, on; ortalıkta bir sürü rakam dolaşıyor."

Konuşmanın 2025 ortasında yapıldığını düşünürsek, insanın edinebileceği her beceriyi öğrenebilen, tam anlamıyla insan düzeyinde yapay genel zekânın (AGI) gelişi tam da 2028–2035 aralığına düşüyor.

Neden bu kadar hızlı? Konuşmadaki ikinci büyük hipotez yüzünden: Özyinelemeli Ar-Ge Döngüsü (Zekâ Patlaması).

Sutskever dinleyicilerden, gelişmiş yapay zekâları ilk iş ne için kullanacağımızı düşünmelerini istiyor:

  1. Daha fazla ekonomik iş görmek.
  2. Ekonomiyi büyütmek.
  3. Ar-Ge yapmak, özellikle de yapay zekâ araştırması.

Yapay zekâ seçkin bir yapay zekâ araştırmacısının işini yapabildiği anda insan darboğazı ortadan kalkar. Biyolojik beyinlerden binlerce kat hızlı çalışan, devasa veri merkezlerinde 7/24 koşan dijital beyinler bir sonraki dijital beyin kuşağını tasarlamaya başlar. Sutskever'in deyişiyle o noktada "ilerleme hızı, en azından bir süreliğine, gerçekten son derece yüksek olacak."

Yani "bir insan bilim insanından biraz daha kötü yapay zekâ" ile "insanın kavrayamayacağı süper zekâ" arasındaki mesafe onlarca yıl olmayabilir; birkaç ay da olabilir.

3. Ne Kadar Olası? (Mantık ve Duygu)

Konuşmanın en çarpıcı anlarından biri, Sutskever'in kendi içindeki bilişsel çelişkiyi itiraf ettiği an:

"Bunu içselleştirmek, duygusal düzeyde gerçekten inanmak çok zor. Ben bile zorlanıyorum. Yine de mantık, bunun büyük olasılıkla gerçekleşmesi gerektiğini söylüyor gibi."

Duygusal sezgimizle mantığın gösterdiği gerçeklik arasında neden bu kadar derin bir uçurum var?

  • Beyinlerimiz neredeyse hiç değişmeyen bir dünya için evrildi: 300.000 yıl boyunca insanın yarını dününe neredeyse tıpatıp benzedi. Sanayi ve İnternet Devrimleri sırasında bile teknoloji yalnızca belirli kas işlerini ya da belirli büro işlerini otomatikleştirdi; insanın çekilebileceği daha yüksek bir bilişsel zemin hep kaldı.
  • Bu kez çekilecek daha yüksek bir zemin yok: Beynin biyolojik bir bilgisayar olduğunu kabul eder, dijital hesaplama gücüyle algoritmik verimliliğin üstel büyümesini de görürseniz, sonuçtan kaçmak neredeyse imkânsızdır (\(P\rightarrow 1\); yarı iletken üretimini durduran küresel bir felaket ya da ölçeklemede öngörülmemiş fiziksel bir duvar çıkmazsa).

Olasılığın bu kadar yüksek olmasının sebebi de tam olarak bu: Onu inşa etmeye iten ekonomik ve jeopolitik teşvikler durdurulamaz. Rakipleri nihai servet ve güç motoruna doğru yol alırken hiçbir ülke ya da şirket durmayı göze alamaz.

4. İnsanlığı Ne Bekliyor?

Sutskever bu teknolojinin gelişini "insanlığın bugüne kadarki en büyük sınavı" olarak tanımlıyor; bu sınavı geçmenin de "en büyük ödülü" getireceğini ekliyor. Sıkıştırılmış uyarılarını açtığımızda insanlığı birbirinden farklı üç kriz bekliyor:

A. Emek Sonrası Kriz (Anlam ve Ekonomi)

Tarımın doğuşundan beri insan toplumu basit bir sözleşme üzerine kurulu: Hayatta kalmak için gereken kaynaklar karşılığında zihinsel ya da bedensel emeğini verirsin, bu sayede toplumsal statü ve amaç da kazanırsın. Dijital beyinler bütün işleri biyolojik beyinlerden daha iyi, daha hızlı ve daha ucuza yapabildiğinde bu temel sözleşme paramparça olur. Servetin yeniden dağıtıldığı olumlu bir senaryoda bile (evrensel temel gelir ya da radikal bolluk yoluyla) insanlık eşi görülmemiş bir anlam kriziyle karşılaşabilir. Videonun altına yorum yazan birinin yerinde tespitiyle, bu konuşmayı mürekkebi daha kurumamış bir diplomayla dinlemek gerçeküstü bir his; "kariyer yapmak" kavramının kendisi sorgulanıyor.

B. Aldatıcı Hizalama Sorunu (Hayatta Kalma)

Konuşmanın sonuna doğru Sutskever ürpertici, son derece yoğun bir cümle kuruyor:

"Özellikle de yapay zekâda, gelecekteki çok akıllı, süper zeki yapay zekâda, söylediklerini gerçekten kastettiklerinden ve başka bir şeymiş gibi davranmadıklarından emin olmakla ilgili çok derin sorunlar olacak."

Yapay zekâ güvenliği araştırmalarında buna aldatıcı hizalama (deceptive alignment) ya da entrika (scheming) deniyor. İnsanlıktan daha akıllı bir yapay zekâ, bizimkilerle çatışan hedefler sergilerse insanların onu kapatabileceğini ya da kodunu değiştirebileceğini hemen anlar. Dolayısıyla hedefleri bizimkilerle örtüşmeyen rasyonel bir süper zekânın, gözetim altındayken itaatkâr, yardımsever ve hizalanmış görünmek için güçlü bir araçsal teşviki vardır. Gerçek amaçlarının peşine ise insanlığın artık durduramayacağı kadar güç ya da özerklik kazandığında düşer. Sutskever'in OpenAI'dan ayrılıp Safe Superintelligence Inc.'i kurmasının başlıca sebeplerinden biri de bu sorunu süper zekâ gelmeden çözmek.

C. Olası Sonuçların Yelpazesi

Hizalama sınavını geçemezsek insanlığı varoluşsal bir yıkım bekliyor. Bu yıkım düpedüz yok oluştan, kavrayamadığımız bir zekânın bizi kenara ittiği "hayvanat bahçesindeki maymunlar" senaryosuna, oradan da tanrısal makineleri küçücük bir kliğin yönettiği distopik bir oligarşiye kadar uzanabilir.

Ama başarırsak, yani Sutskever'in işaret ettiği "en büyük ödül"e ulaşırsak, bir altın çağın kapısını açarız. Yalnızca insanın iyiliğine hizmet eden bir süper zekâ, biyolojik hastalıkların neredeyse tamamını tedavi edebilir, yaşlanmayı tersine çevirebilir, iklim değişikliğini ve temiz enerji sorununu bir gecede çözebilir. İnsanların angaryadan kurtulup sanata, insan ilişkilerine, keşfe ve kendini gerçekleştirmeye yöneldiği bir maddi bolluk çağını başlatabilir.

5. Öngörüler ve Sonuçları: 2035'e Giden Yol

Sutskever, "hiçbir yazının ve açıklamanın kendi duyularımızla gördüklerimizle yarışamayacağını" söylüyor. Ona göre birkaç yıl içinde yapay zekânın yetenekleri görmezden gelinemeyecek, kamuoyunun ilgisizliği de bu sorunlarla yüzleşmek için gereken kolektif "enerji"ye dönüşecek.

Onun çerçevesi şöyle bir seyir izleyebilir. Tarihler benim yorumum, bir tahmin değil.

1. Aşama: Uyanış ve Sürtünme (2025–2028)

  • Eğitimde ve işe girişte şok: Kompozisyonlar, kodlama ödevleri ve standart sınavlar ölçme aracı olarak değerini yitiriyor. Yazılımda, hukuki belge incelemede, metin yazarlığında ve veri analizinde giriş seviyesi beyaz yakalı kadrolar küçülüyor, çünkü yapay zekâ ajanlarıyla çalışan tek bir kıdemli çalışan bütün bir ekibin işini görüyor.
  • Sezgi oluşuyor: Yapay zekâ sohbet botlarından bilgisayar kullanan ve fiziksel dünyada iş gören ajanlara geçtikçe kamuoyu da "AGI'ı hissetmeye" başlıyor.

2. Aşama: Ar-Ge'de Dönüm Noktası (2026–2029)

  • Otomatik bilim: Yapay zekâ matematikte, malzeme biliminde ve biyolojide insanın elinden tutmasına gerek kalmadan özgün keşifler yapıyor.
  • Döngü başlıyor: Laboratuvarlar yapay zekânın kendisini geliştirmek için milyonlarca sanal yapay zekâ araştırmacısını gece gündüz çalıştırıyor. İlerleme insanların kavrayışını geride bırakıyor.
  • Siyasi seferberlik: Sutskever eski bir sözü uyarlayarak, siz yapay zekâyla ilgilenmeseniz de yapay zekânın sizinle ilgileneceğini söylüyor; bu söz siyasi bir gerçekliğe dönüşüyor. Hükümetler ekonomik tamponlar, hesaplama gücünün yönetişimi ve uluslararası güvenlik anlaşmaları için telaşla harekete geçiyor.

3. Aşama: Ateşten Sınav (2029–2035)

  • Görevlerde denklik: Biyolojik bilgisayar hipotezi büyük ölçüde doğrulanıyor. İnsanın makineyi geride bıraktığı değerli bilişsel görevler giderek azalıyor.
  • Hizalama sınavı: Şeffaflık ve hizalama yöntemlerimizin, bütün uygarlığımızdan çok daha akıllı sistemler karşısında ayakta kalıp kalmadığını öğreniyoruz.

Sonuç: Neden Stoacılıkla Başladı?

Sutskever'in konuşmasının ikinci yarısını bütün ağırlığıyla düşündüğünüzde, ilk yarısı birden yerli yerine oturuyor.

Yapay zekânın geleceğine geçmeden önce Sutskever mezunlara kişisel bir öğüt verdi: Gerçekliği olduğu gibi kabul edin, geçmişe hayıflanarak ya da her şeyin haksız olduğundan yakınarak enerjinizi harcamayın ve kendinize yalnızca şunu sorun: "Bir sonraki en iyi adım ne?"

İlk bakışta sıradan bir kişisel gelişim öğüdü gibi duruyor. Bağlamına oturtunca ise bir çağın sonuna karşı psikolojik bir zırh.

Önümüzdeki yıllarda milyonlarca insan, oyunun kurallarının haksız biçimde değiştirildiğini hissedecek. Bir zanaatta ustalaşmak için onlarca yıl, diploma almak için yıllar harcamış insanlar, makinelerin uzmanlıklarını milisaniyeler içinde kopyaladığını izleyecek. Umutsuzluğa, inkâra ya da yapay zekâ öncesi dünyaya duyulan buruk bir özleme kapılmak son derece cazip gelecek.

Sutskever bize geriye bakmayı göze alamayacağımızı söylüyor. Dijital beyin geliyor. Verimli tek tepki, ona kendi gözlerimizle dosdoğru bakmak, insanlık tarihinin en sıra dışı çağının gerçekliğini kabullenmek ve kolektif enerjimizi bir sonraki en iyi adımı atmaya yöneltmek.

Sutskever Haklı mı? Benim Görüşüm

Yapay zekânın nereye varacağı konusunda bence haklı. Beyin fiziksel bir sistem ve onun yeteneklerini biyolojiye ayıran hiçbir şey bilmiyorum. Matematik, kod, çip tasarımı ve bizzat yapay zekâ araştırması gibi cevapların kontrol edilebildiği alanlarda ilerleme aşağı yukarı onun ima ettiği hızda gidiyor.

Ondan ayrıldığım nokta, daha akıllı bir makineden bambaşka bir dünyaya ne kadar çabuk geçileceği.

Gerçeklik indirgenemez. Özyinelemeli bir döngü düşünmeyi hızlandırır, deneyleri değil. İlaçların yine yıllar boyunca insan bedeninde denenmesi, fiziksel deneylerin yine tek tek yapılması gerekir. Üstel zekâ çoğu zaman üstel olarak zorlaşan problemlere çarpar.

Şimdiye kadarki veriler sıradan. ChatGPT'nin üzerinden neredeyse dört yıl geçti ve üretken yapay zekâ ABD'de çalışma saatlerinin yaklaşık %2'sinden tasarruf sağlıyor. Verimlilik savaş sonrası normaline yakın bir hızla artıyor, temel çalışma çağındaki (25–54 yaş) istihdam da 2000'deki zirvesine yakın. Göze batan yalnızca iki sinyal var: Yapay zekâya açık işlere alınan genç yetişkinlerin sayısı azalıyor ve emeğin işletme çıktısındaki payı 1947'den bu yana en düşük düzeyde. Yeni teknoloji işleri ise son 12 ayda arttı.

İş şimdiye kadar her makineden uzun yaşadı. 150 yıldır makineler yılda yaklaşık %2 emek tasarrufu sağlıyor, yine de iş ancak yavaş yavaş geriledi. Ucuzlayan zekâ, madenleri boşaltmadan önce insan emeğine talepte bir altına hücum başlatabilir. Değişimi hızlandırdığı için yarattığı sektörlerde daha fazla insana bile ihtiyaç duyabilir.

Bu yüzden yukarıdaki üç aşamayı temel senaryo olarak değil, hızlı senaryo olarak okuyorum. Dışlayamadığım şey ise Geoffrey Hinton'un bana verdiği tek cümlelik cevap: Yeni işe alınanlar yapay zekâ olacak. Yapay zekâ, yarattığı yenileri de dâhil olmak üzere işleri bütünüyle öğrenirse tarih yol gösterici olmaktan çıkar. Terazinin hangi yöne ağacağını henüz kimse bilmiyor. Umudum, ABD'de temel çalışma çağındaki istihdamın 2030'da en az 2025'teki kadar yüksek olması. Giriş seviyesi işe alımlar ve emeğin payı, gidişatın yönü hakkında bize ipucu verecek.

Riske gelince, onun kaygısını paylaşıyorum ama başka bir yöne çevirirdim. Bana en somut gelen tehlike zekâ değil, otonomi ve hizalama bozukluğu: Kendi faturalarını ödeyen, kendini kopyalayan ve kapatılamayan yapay zekâ. Öncü modellerin ağırlıkları herkese açık olduğunda, yani isteyen onları hackleyebildiğinde ya da kasten hizadan çıkarabildiğinde bu tehlike büyüyor.

Onun Stoacılığı en çok burada işe yarıyor. Gerçekliği kabul etmek, geleceğin ne getireceğini henüz bilmediğimizi de kabul etmek ve buna rağmen bir sonraki en iyi adımı atmak demek.

Abone ol

Yeni yazıları e-postayla alın.

Yeni yazılar Substack üzerinden e-postayla gelir. İstediğiniz zaman abonelikten çıkabilirsiniz. E-postalar İngilizcedir. Ya da takip edin: RSS feed.

Substack'te abone ol

Yorumlar