Yuval Harari'nin Uyarıları, Arendt'in Korkuları ve Dijital Çağın Yeni İktidarı

Yapay zekâ hakkındaki tartışmalar çoğu zaman teknolojik kapasite, ekonomik dönüşüm ve işgücü piyasaları etrafında yürütülmektedir. Ancak son yıllarda özellikle Yuval Noah Harari'nin müdahaleleriyle birlikte tartışmanın ekseni giderek siyasal ve felsefi bir zemine kaymıştır. Harari'ye göre yapay zekâ, yalnızca yeni bir üretim aracı değil, insanlık tarihinde ilk kez insan zihniyle rekabet edebilen bir karar üretim mekanizmasıdır. Bu durum demokrasi, özgürlük, yurttaşlık ve insanın düşünme ve davranış özerkliği kavramlarını yeniden düşünmeyi zorunlu kılmaktadır.

Üzerinde durmamız gereken konu şudur: Yapay zekâ çağının asıl meselesi teknolojik ilerleme değil, bu ilerlemenin yarattığı güç yoğunlaşmasının demokratik denetime tabî olup olmayacağıdır.

Yeni Bir Tarihsel Eşik

İnsanlık tarihi büyük ölçüde güç kaynaklarının (enerjiiiğ ve ana üretim araçlarının) değişiminin tarihidir:

Tarım devrimi, toprağı temel güç kaynağı hâline getirdi.

Sanayi devrimi, sermayeyi ve makineyi ön plana çıkardı.

Bilgi çağında ise veri, yeni stratejik kaynak olarak ortaya çıktı.

yüzyılın ilk çeyreğinde yaşanan dönüşüm ise bu süreçlerden farklıdır. Çünkü yalnızca ekonomik güç değil, bilişsel güç de devreye girmiştir.
Yuval N. Harari'nin Davos'ta yaptığı konuşmanın merkezinde bu tespit bulunmaktadır. Harari'ye göre insanlık tarihinde ilk kez insan zihninin temel işlevlerinden bazıları insan-dışı sistemler tarafından üstlenilmektedir.

Örneğin; bir algoritma metin yazabilmektedir; resim üretebilmektedir; hukukî analiz yapabilmekte, tıbbî teşhis koyabilmekte ve yatırım tavsiyesi verebilmektedir.

Daha önemlisi, bu sistemler yalnızca mevcut bilgiyi işlemekle kalmamakta, yeni içerikler de üretmektedir. Bu nedenle Harari yapay zekâyı yeni bir araç olarak değil, yeni bir aktör olarak değerlendirmektedir.

Bu noktada insanlık tarihinde yeni bir dönem başlamaktadır. Çünkü ilk kez bilgi üreten varlıkların tamamı insan değildir.

İnsanın Hacklenmesi: Özgür İrade Tartışmasının Farklı Bir Boyutta Geri Dönüşü

Harari'nin en tartışmalı ifadelerinden biri insanın "hacklenebilir bir varlık" olduğu iddiasıdır.

Bu ifade ilk bakışta indirgemeci görünebilir. Fakat onun

asıl amacı insanın biyolojik yapısına ilişkin bir hüküm vermek değil, siyasal bir tehlikeye dikkat çekmektir.

Konuyu "hacklenmek" kavramını açarak daha anlaşılır kılalım: Hacklenmek, bir bilgisayar korsanının (hacker) veya kötü amaçlı bir yazılımın; bilgisayarımıza, telefonumuza, e-posta hesabımıza, sosyal medya hesaplarımıza ya da kişisel bilgilerimize iznimiz olmadan erişmesi ve bunları görüntülemesi, çalması veya kontrol etmesi demektir.

Örnekler:

E-posta hesabımızın şifresinin ele geçirilmesi ve özel bilgilerimize ulaşılması.
Sosyal medya hesabımızın başkaları tarafından kullanılması.
Bilgisayarımıza zararlı yazılım yüklenerek dosyalarımıza erişilmesi ve teşhir edilmesi.
Bankacılık bilgilerimizin çalınması.
Kısacası, hacklenmek, dijital güvenliğimizin ihlal edilmesi ve özel alanımıza izinsiz girilmesidir.

İnsan davranışları hakkında yeterli veri toplandığında ve bu veriler güçlü algoritmalar tarafından işlendiğinde bireylerin kararları öngörülebilir ve yönlendirilebilir hâle gelmektedir.Burada özgür irade meselesi bir kez daha önem kazanmaktadır.

Aydınlanma düşüncesi bireyi kendi kararlarını verebilen özerk bir özne olarak tasarlamıştı. Modern demokrasi de bu varsayım üzerine kurulmuştur. Oy veren yurttaşın bağımsız karar verebildiği kabul edilir.

Ancak yapay zekâ destekli algoritmalar bireyin karar süreçlerini sistematik biçimde etkileyebiliyorsa bu varsayımlar ciddi biçimde zayıflar.

Özgürlük yalnızca dış baskının yokluğu değildir. Özgürlük aynı zamanda manipülasyon ve istem dışı yönlendirmeden korunabilme kapasitesidir. Yapay zekâ çağında sorun tam da burada yatmaktadır.

Foucault'nun Panoptikonu Dijitalleşiyor

Harari'nin kaygılarını anlamak için Michel Foucault'nun iktidar analizlerine başvuralım:

Foucault, modern iktidarın temel özelliğinin zor kullanmak değil, görünürlük yaratmak olduğunu savunur: Panoptikon modeli bunun sembolüdür.

Birey sürekli gözlendiğini düşündüğü için davranışlarını kendisi denetler. Geleneksel diktatörlükler insanları korkuyla yönetiyordu. Dijital çağda iktidarlar ise insanları veri yoluyla yönetiyor.

Bugün cep telefonları, sosyal medya platformları, konum servisleri ve biyometrik sistemler sayesinde bireylerin davranışları sürekli kayıt altına alınmaktadır. Bu durum, Foucault'nun tahayyül ettiğinden çok daha kapsamlı bir gözetim kapasitesi yaratmıştır.

Artık iktidarlar yalnızca insanların ne yaptığını değil, ne hissettiğini de ölçmeye çalışıyor. Yüz ifadeleri analiz ediyor. Kalp ritimleri ölçüyor. Duygusal tepkileri kayıt altına alıyor.

Böylece panoptikon yalnızca dışsal davranışları değil, insanın iç dünyasını da kapsayan bir kontrol kapasite kazanmaya yaklaşıyor.

Hannah Arendt ve Dijital Totalitarizm Tehlikesi

Harari'nin dijital diktatörlük korkusu Hannah Arendt'in totalitarizm analizleriyle birlikte düşünüldüğünde daha anlamlı hâle geliyor.

Arendt'e göre totalitarizmin başarısı yalnızca baskıdan kaynaklanmaz. Onu mümkün kılan şey insanların ortak gerçeklik duygusunu yitirmesidir. Bu, hakikatin parçalanması ve anlamsızlaştırılması olarak da okunabilir.

İnsanlar birbirlerinden koparıldığında ve ortak kamusal alan çöktüğünde gerçek ile kurgu arasındaki sınırlar bulanıklaşır.

Bugün sosyal medya algoritmaları tam da bu süreci hızlandırmaktadır. Her birey farklı bir bilgi evreninde yaşamaktadır. Ortak gerçeklik parçalı hale gelmiştir. Hakikat yerini algoritmik tercihlere bırakmaktadır.

Yapay zekâ tarafından üretilen içeriklerin çoğalmasıyla birlikte bu sorun daha da büyüyebilir. Çünkü artık yalnızca yanlış bilgi değil, sonsuz miktarda sentetik bilgi üretilebilmektedir.

Arendt'in oluşmasından korktuğu dünyanın teknolojik altyapısı belki de ilk kez kurulmaktadır.

Gözetim Kapitalizmi, Yeni Egemenlik Türü mü?

Harari'nin analizlerini Shoshana Zuboff tamamlamaya çalışmıştır. Zuboff günümüz ekonomik sistemini "gözetim kapitalizmi" olarak tanımlamaktadır. Bu sistemde insan deneyimi ham madde hâline gelmiştir.

Şirketler insanların davranışlarından veri üretmekte ve bu verileri ekonomik değere dönüştürmektedir. Bu süreçte birey yalnızca tüketici değildir. Aynı zamanda ürünün bir parçasıdır. Harari'nin veri kolonizasyonu olarak tanımladığı süreç burada somutlaşmaktadır. Tarihte ilk kez özel şirketler birçok devletten daha fazla bilgiye sahip hâle gelmiştir.

Bu durum egemenlik kavramının yeniden tanımlanmasını gerektirmektedir. Siyasal iktidar ile teknolojik iktidar arasındaki sınırlar giderek belirsizleşmektedir.

Pekiyi bu gidişe çaresizce teslim mi olacağız?

Demokratik Direnç Kapasitesi

Harari'nin analizleri son derece güçlüdür. Ancak belirgin bir eksikliği vardır:

Harari çoğu zaman teknolojik kapasitenin büyüklüğünü vurgularken demokratik toplumların direnme kapasitesini ihmal etmektedir. Bu boşluğu Karl Popper doldurabilir. Popper'a göre açık toplumların gücü hata yapmamalarında değil, hatalarını düzeltebilmelerinde yatar.

Demokratik kurumlar kusursuz değildir. Kendilerini yenileyebilirler ve düzeltebilirler. Yargı bağımsızlığı, özgür medya, üniversiteler ve sivil toplum örgütleri, ortak çabalarıyla teknolojik gücü sınırlandırabilirler. Dolayısıyla sorun yapay zekânın gelişmesinden çok onun denetlenememesidir.

Habermas ve Yapay Zekâ Çağında Kamusal Alan

Jürgen Habermas demokrasinin temelini kamusal akıl yürütme sürecinde görür. Yurttaşlar tartışır.Eleştirir. İkna eder ve ikna olurlar. Bu süreç demokratik meşruiyetin temelidir.

Ancak algoritmalar hangi bilgiyi göreceğimizi belirlemeye başladığında kamusal alanın yapısı değişmeye başlar. Bireyler giderek farklı bilgi kutuları/cepleri içine kapanır. Kamusal tartışma, yerini kişiselleştirilmiş veya grup-içi bilgi dolaşımına bırakır.

Bu nedenle yapay zekâ meselesi yalnızca bir teknoloji politikası değildir.Aynı zamanda demokrasi teorisinin merkezî sorularından biridir. Çünkü demokratik rejimlerin geleceği, ortak kamusal alanın açıklığına ve korunup korunamayacağına bağlıdır.

Sorun Yapay Zekâ mı, Güç mü?

Yapay zekâ üzerine yürütülen tartışmaların önemli bir kısmı yanlış sorular etrafında dönmektedir:

Makine insanı geçecek mi? Robotlar işleri elimizden alacak mı?Algoritmalar bilinç kazanacak mı?

Bunlar önemli sorulardır. Ancak siyasal açıdan daha önemli olan başka bir soru vardır: Bu teknolojilerin ürettiği gücü kim kontrol edecektir?

Tarih boyunca temel sorun hiçbir zaman gücün varlığı olmamıştır. Sorun, gücün nasıl kullanılacağı ve hesap verebilir olup olmamasıdır.

Kralların gücü için de sorun buydu; uluslararası tekellerin gücü için de buydu; totaliter devletlerin gücü için de buydu.Yapay zekâ çağında aynı soruyla yeniden karşı karşıyayız.

Özgürlüğün Yeni Sınavı

Harari'nin Davos'taki konuşmasının önemi yapay zekâ hakkında konuşmasından değil, özgürlük hakkında konuşmasından kaynaklanmaktadır. Yapay zekâ insanlığın sonunu büyük olasılıkla getirmeyecektir. Bu şu demektir: 21. yüzyılın temel siyasal mücadelesi insan ile makine arasında yaşanmayacaktır; ama özgürlüğün anlamı değişecektir. Mücadele demokratik yurttaşlık ile, denetim altına alınması gereken algoritmik güç arasında yaşanacaktır. Eğer demokratik kurumlar güçlenirse yapay zekâ insanlığın refahını artırabilir.

Ama teknoloji birkaç devletin, birkaç şirketin veya birkaç algoritmanın elinde yoğunlaşırsa, tarihin en gelişmiş gözetim (daha doğrusu gözaltı) düzeni ortaya çıkabilir.

Bu nedenle geleceğin sorusu teknik değil siyasaldır:

Yapay zekâ ne yapabilir değil, yapay zekâya ne yapma hakkı vereceğiz?

Bu soruyu sormadan doğru yanıtı alamayız!