Teknolojik Tekillik Neden "Koca Bir Hiç" Çıkabilir?

(Tekilliği ani bir kırılma, her şeyi altüst edecek bir sarsıntı olarak gören yaygın anlatıya bir itiraz)

Teknolojik tekillik, yapay süper zekânın insan zekâsını aşacağı ve uygarlığı öngörülemez biçimde değiştireceği varsayımsal bir gelecek anına verilen ad. Bu fikir uzun yıllardır insanları hem büyülüyor hem de tedirgin ediyor. Yine de tekilliğin, bazılarının öngördüğü kadar sarsıcı ya da önemli olmayabileceğine inanmak için birkaç sebep var. Bu yazıda teknolojik tekilliğin neden "koca bir hiç" çıkabileceğine dair beş temel gerekçeyi ele alacağız.

1. Süper Zekâyı Benimsemeye Direnç Tekilliğin gündelik hayatı derinden etkilemeyebileceğini düşündüren başlıca nedenlerden biri şu: İnsanlar "sözde" süper zeki bir varlığı büyük olasılıkla ne tanımaya ne de dinlemeye yanaşacak. İnsanın doğasında otoritelere, hele de üstün bilgi ya da yetenek iddiasında olanlara kuşkuyla bakma eğilimi var. Süper zeki bir yapay zekâ ortaya çıksa bile pek çok kişi büyük ihtimalle onun güvenilirliğini sorgular ve gündelik kararlarındaki etkisine direnir.

Tarih, insanların çoğu zaman uzmanların ya da otoritelerin tavsiyesine körü körüne uymaktansa kendi muhakemelerine ve sezgilerine güvenmeyi seçtiğini gösteriyor. Karşılarında bir yapay zekâ olduğunda bu eğilim muhtemelen daha da güçlenecek, çünkü insanlar onu özerkliklerine ve yaşam biçimlerine yönelik bir tehdit olarak görebilir. Bu yüzden süper zekânın toplumdaki etkisi, insanların onun rehberliğini kabul edip hayatlarına katmaya ne kadar razı olduğuyla sınırlı kalabilir.

2. Süper Zekâyı Tanımanın Zorluğu Tekilliğin bazılarının sandığı kadar büyük bir olay olmayabileceğini düşündüren bir başka neden daha var: Süper zekâyı tanımlamak da, geldiğinde fark etmek de çok zor olacak. Zekâ karmaşık, çok boyutlu bir kavram; akıl yürütmeden problem çözmeye, öğrenmeden yaratıcılığa uzanan geniş bir yetenek yelpazesini kapsıyor. İnsan zekâsının bile herkesin kabul ettiği bir tanımı ya da ölçütü yok; kişilerin zekâsını farklı alanlarda ya da bağlamlarda kıyaslamak çoğu zaman güç.

Kavram bu kadar karmaşıkken, bir yapay zekânın gerçekten süper zekâ düzeyine ulaşıp ulaşmadığına karar vermek daha da zor olacak. Bir yapay zekâ sistemi belirli görevlerde ya da alanlarda olağanüstü yetenekler sergilese bile herkes onu süper zekâ olarak görmeyebilir. Belli bir sistemin süper zeki sayılmayı hak edip etmediği, uzmanlar ve kamuoyu arasında muhtemelen bitmek bilmeyen tartışmalara ve anlaşmazlıklara yol açacak. Bu da o sistemin toplum üzerindeki etkisini ve nüfuzunu sınırlayabilir.

3. Yapay Zekânın Sınırları Makine zekâsıyla insan zekâsı arasındaki temel farklar, yapay zekânın kapsamını ve kullanım alanını kalıcı olarak daraltabilir. Bunu birkaç benzetmeyle açıklamak mümkün. Örneğin uçaklar uçar ama kuşların yerini tutmaz. Denizaltılar da yüzer ama balıkların yerini tutmaz. Aynı şekilde, insan zekâsını taklit etmek için yapılmış bir makine de aradaki yapısal uyumsuzluklar ve farklılıklar yüzünden (bir yanda biyolojik bir organizma, öte yanda silikondan bir makine) insan zekâsının ya da aklının yerini hiçbir zaman tam olarak tutamayabilir. Bu açık, öngörülebilir gelecekte de kapanmayabilir.

Bugünkü yapay zekâ sistemleri ağırlıklı olarak devasa veri kümeleriyle eğitilmiş, dar kapsamlı ve alana özgü algoritmalara dayanıyor. Bizdeki genel zekâdan ve çok yönlülükten yoksunlar; oysa deneyimden öğrenmemizi, bilgiyi farklı alanlara taşımamızı ve hiç karşılaşmadığımız durumlarda yolumuzu bulmamızı sağlayan şey tam da bunlar. Silikon makineler bilgiye erişim, mantıksal akıl yürütme, metin tabanlı soru-cevap, analiz, bilimsel araştırma ve keşif gibi belirli alanlarda sonunda bizi geçse bile, insan yeteneklerini ne ölçüde taklit edebilecekleri henüz belli değil.

4. Etik ve Yasal Engeller Süper zeki yapay zekâ sistemleri hem geliştirilirken hem de kullanıma sunulurken büyük olasılıkla ciddi etik ve yasal engellerle karşılaşacak; bu engeller de sistemlerin toplumdaki etkisini sınırlayabilir. Gelişmiş yapay zekânın olası riskleri ve zararlı sonuçları konusunda pek çok kaygı var: insanların işini makinelere kaptırması, mahremiyet ihlalleri, yapay zekânın kötü niyetli amaçlarla kullanılması gibi.

Bu riskleri azaltmak için büyük ihtimalle sağlam etik çerçeveler, güvenlik protokolleri ve düzenleyici denetim gerekecek. Amaç, süper zeki sistemlerin sorumlu ve yararlı biçimde geliştirilip kullanılmasını güvenceye almak. Ne var ki bu çerçeveleri kurmak ve uygulatmak karmaşık, zahmetli bir süreç olacak; bu da süper zekânın hem gelişimini hem de yaygınlaşmasını yavaşlatabilir.

Bunun yanı sıra bazı alanlarda, örneğin bireyleri ve toplumu derinden etkileyen kararların alındığı görevlerde, süper zekânın kullanılmasına karşı kamuoyunda direnç ve tepki doğabilir. Bu direnç, süper zekânın gündelik hayattaki etkisini ve nüfuzunu daha da kısıtlayabilir.

5. Kademeli Bütünleşme ve Uyum Son olarak, süper zeki yapay zekâ gerçekten ortaya çıksa bile toplumu bazılarının öngördüğünden daha yavaş ve daha az sarsıcı biçimde etkileyebilir. İnsanlık tarih boyunca yeni teknolojilere uyum sağlamakta ve onları hayatına katmakta şaşırtıcı bir beceri gösterdi. Matbaanın icadından internetin yaygınlaşmasına kadar pek çok teknolojik atılım önce dirençle ve kuşkuyla karşılandı, ama sonunda gündelik hayatın ayrılmaz bir parçası oldu.

Süper zekânın topluma yerleşmesi de benzer biçimde uzun yıllara, hatta on yıllara yayılan bir süreç olabilir. Etkisi ani ve dramatik bir tekillik anıyla değil, adım adım kendini gösterebilir; insanlar da bu gelişmiş sistemlerle birlikte çalışmayı ve onlardan yararlanmayı yavaş yavaş öğrenebilir.

Üstelik süper zekâ yaygınlaştıkça insanlar, bu sistemlerle yarışmak yerine onları tamamlayan yeni beceriler, roller ve yaşam biçimleri geliştirerek uyum sağlayabilir. Zamana yayılan bu uyum, süper zekânın olası olumsuz sonuçlarının bir kısmını hafifletebilir ve nimetlerinin topluma daha eşit dağılmasına yardımcı olabilir.

Toparlarsak, süper zeki yapay zekânın tetiklediği bir teknolojik tekillik fikri kuşkusuz ilgi çekici; ama böyle bir tekilliğin toplum üzerindeki etkisinin bazılarının öngördüğünden daha sınırlı ve daha az sarsıcı olabileceğini düşünmek için birkaç sebep var. İnsanların süper zeki sistemleri tanımaya ve dinlemeye yanaşmamasından gerçek süper zekâyı tanımlamanın ve ona ulaşmanın güçlüğüne kadar pek çok etken, gelişmiş yapay zekânın gündelik hayattaki etkisini sınırlayabilir. Dahası, süper zekânın topluma yavaş yavaş yerleşmesi ve insanların ona zamanla uyum sağlaması, bu teknolojinin olası risklerini ve olumsuz sonuçlarını bir ölçüde hafifletebilir. Dolayısıyla süper zekâ elbette önemli ve heyecan verici bir araştırma ve yenilik alanı; ama onu geliştirme çabasının, bazılarının hayal ettiği türden dramatik, dünyayı değiştiren bir tekillik anına varacağı kesin değil.

(Bu yazı bir yapay zekâyla ortaklaşa yazıldı. Başlık, ilk iki argüman ve üçüncü fikirdeki kapsamlı düzenlemeler insan yazara ait. Konu ve argümanlar büyük ölçüde, geçen hafta aramızdan ayrılan Vernor Vinge'den ve onun son derece etkili makalesinden ilham alıyor.)