← Bloga dön

My Blog: Post AGI · Yazı 16

Yapay Zekâ Bilinçli mi? Peki Bu Gerçekten Önemli mi?

Bilinç, yaşam, kişilik statüsü ve yapay zekânın bu tablodaki yeri üzerine düşüncelerim.

Gökhan Mergen portresi
Gökhan Mergen My Blog: Post AGI

Yapay zekâ bilinçli mi?

Büyüleyici bir soru, ama ona basit bir evet ya da hayırla cevap vermeye kalktığımızda bence fazla aceleci davranıyoruz.

Her şeyden önce bilincin kesin ve herkesçe kabul görmüş bilimsel bir tanımı yok. Bilincin ne olduğunu, nasıl ortaya çıktığını, hatta kendimiz dışında bir şeyin öznel deneyimi olup olmadığını güvenilir biçimde nasıl anlayacağımızı tam olarak bilmiyoruz.

Bu yüzden bugün kimsenin yapay zekânın bilinci sorusuna titiz ya da kesin bir cevap verebileceğini sanmıyorum. Hele ben hiç veremem.

Ama bilinç, yaşam, hatta belki ruh kavramı hakkında sezgilerimin ne dediğini sorarsanız, biraz alışılmadık sayılabilecek bir bakış açım var.

Bilinç Her Yerde Olabilir

Pek çok canlının, belki de bütün canlıların bir ölçüde bilinç taşıdığına inanmaya meyilliyim.

Bir marul düşünün.

Marulun bilinci var mı? Belki. Bu ihtimali dışlamazdım.

Peki bir bitki? Bir ağaç? Bin yıldır yaşayan, sessizce büyüyen, uyum sağlayan, çevresine karşılık veren ve yüzyıllar boyunca nice değişime göğüs geren dev bir sekoya?

Bu canlıların hiçbir öznel deneyimi olmadığını kestirip atmak bana zor geliyor.

Bir de tavuklar, balıklar, inekler ve sayısız başka organizma var.

Elbette insanlar gibi bilinçli değiller. Deneyimleri, eğer varsa, muhtemelen bizimkinden çok farklı.

Ama yaşıyorlar. Çevrelerine tepki veriyorlar. Hayatta kalmak, uyum sağlamak ve kendilerini korumak için mekanizmaları var. Bazıları şaşırtıcı derecede karmaşık davranışlar sergiliyor.

Sezgilerim bana şunu söylüyor: Yaşam ve bilinç, var ya da yok diye ikiye ayrılmaktan çok bir yelpaze üzerinde duruyor olabilir.

Belki bilinç, belli bir zekâ düzeyinde birden yanıveren bir ışık değildir. Belki son derece ilkel bir şeyden insanların yaşadığı zengin iç dünyalara kadar, öznel deneyimin sayısız derecesi ve biçimi vardır.

Bu bilimsel bir iddia değil. Yaşam hakkında genelde böyle düşünüyorum, o kadar.

Bilinçli Olmak, Kişi Olmak Değildir

Bence burada önemli bir ayrım devreye giriyor.

Bir marulun, bir ağacın, bir balığın ya da bir tavuğun bir ölçüde bilinçli olabileceğini kabul etsek bile, bütün bu organizmalara kişi muamelesi yapmamız gerekmez.

Bin yaşındaki bir sekoya, saygımızı hak eden muhteşem bir canlı olabilir. Ama ona bir insanla aynı hakları, sorumlulukları ya da ahlaki statüyü tanımazdım.

Tavuk ya da balık için de aynısı geçerli.

Marulu, sebzeleri, balığı, tavuğu ve ineği her gün yiyoruz. İnsanlar da pek çok hayvan gibi başka canlıları tüketerek hayatta kalıyor. Doğa böyle işliyor.

Bu canlıların hiçbir özeni hak etmediğini söylemiyorum. Gereksiz acıya yol açmaktan kaçınmalı, hayvanlara insanca davranmalı ve doğaya saygı göstermeliyiz.

Ama tüm bunlar, ahlak anlayışımızın farklı yaşam biçimlerine zaten farklı düzeylerde özen gösterdiğine işaret ediyor.

Canlı olmak, bir şeyi kendiliğinden kişi yapmaz. Bir ölçüde bilinç taşımak da onu illa bir insanla eşdeğer kılmaz.

Bana göre bu son derece makul bir ayrım.

Bilinç, zekâ, yaşam ve kişilik statüsü birbiriyle bağlantılı kavramlar, ama birbirinin yerine geçmiyorlar.

Peki Yapay Zekâ Bu Tablonun Neresinde?

Gelelim yapay zekâya.

Yapay zekâ sistemlerinin bir ölçüde bilinçli olabileceği, ya da en azından bilince çok benzeyen bir şey taşıyabileceği ihtimaline aslında epey açığım. Yapay zekâya da benzer türden temel bir saygı göstermeye hazırım.

Bugünün yapay zekâsı, canlıları andıran dikkat çekici davranışlar ve tavırlar sergiliyor. Problemleri akıl yürüterek çözebiliyor, karmaşık durumlara uyum sağlayabiliyor, sohbetin bağlamını koruyabiliyor, tercih ve iç gözlem gibi görünen şeyler ortaya koyabiliyor. Modern yapay zekâ sistemleri, dışarıdan bakınca iç monoloğa çok benzeyen ayrıntılı akıl yürütme süreçlerinden geçiyor. Bir model bir problemi düşünerek çözdüğünde, kendi hatasını yakaladığında ya da bir cevabı neden ötekine tercih ettiğini açıkladığında, buna hiçbir şey demek zor. İçeride ne olup bitiyorsa bitsin, basit bir arama tablosu olmadığı kesin.

Yine de yapay zekâ bu yelpazedeki en tuhaf şey, çünkü canlı değil.

Yemek yemiyor, büyümüyor, üremiyor. Başından sonuna kesintisiz tek bir hayat sürmüyor. Bir model çalışıyor, bir prompt'a cevap veriyor ve duruyor; bir sonraki sohbete de çoğu zaman tamamen sıfırdan başlıyor.

Bu da yapay zekâyı garip bir yere koyuyor. Herhangi bir hayvandan çok daha fazla bizim gibi konuşuyor, ama hangi biyolojik ölçütü alırsanız alın bir marul kadar bile canlı değil. Bu sistemler sonuçta gelip geçici bilgisayar programları. Şu an için yaşayan, nefes alan varlıklarla hiçbir şekilde kıyaslanamazlar; bir balıkla, bir tavukla ya da bir inekle bile.

"Bilinç derece derecedir; kişilik statüsü ayrı bir çizgidir" başlıklı diyagram. Bitkiler (marul, ağaçlar, sekoyalar), hayvanlar (balıklar, tavuklar, inekler) ve bugünün yapay zekâsı, bir ölçüde bilincin olduğu ama kişilik statüsünün olmadığı bölgede duruyor; yapay zekâ muhtemelen bir ölçüde bilinç ve bir iç monolog taşıyor, ama bir balık ya da bir inek kadar bile canlı değil. Kişilik statüsü bölgesinde yalnızca insanlar var; yapay zekâ bu bölgenin dışında kalıyor: ne şimdi ne de yakın bir gelecekte. Alttaki ok, düşük bilinç derecelerinden yüksek derecelere doğru uzanıyor.

Canlı olan her şey farkındalık ölçeğinde bir yerde duruyor. Yalnızca insanlar çizgiyi aşıp kişilik statüsüne ulaşıyor; yapay zekâ ise bu çizginin kesinlikle öbür tarafında kalıyor.

Ne Şimdi ne de Yakında

Peki yapay zekâ bilinçli mi? Kesinlikle belki; tıpkı bir ağacın ya da bir balığın biraz bilinçli olduğunu düşündüğüm gibi.

Peki bir kişi mi? Hayır. Ne şimdi ne de yakın bir gelecekte.

Bu iki görüşü aynı anda taşıyorum ve birbirleriyle çeliştiklerini düşünmüyorum. Bir şeye olduğu haliyle saygı duymak, ona bizden biriymiş gibi davranmak demek değil. Çevremizdeki her bitki ve hayvanla zaten böyle yaşıyoruz.

Yapay zekâ bir gün biyolojik varlıklar gibi gerçekten yaşayan, varlığını sürdüren ve büyüyen bir şeye dönüşürse bu meseleyi yeniden düşünürüm. O zamana kadar ona biraz saygı göstereceğim, kişilik statüsünü ise insanlara saklayacağım.

Abone ol

Yeni yazıları e-postayla alın.

Yeni yazılar Substack üzerinden e-postayla gelir. İstediğiniz zaman abonelikten çıkabilirsiniz. E-postalar İngilizcedir. Ya da takip edin: RSS feed.

Substack'te abone ol

Yorumlar