Yapay Zeka, Tüm İnsanlığı Yok Edecek

Yapay zeka teknolojisinin hızla geliştiği Silikon Vadisi, sektörün merkezinden gelen sarsıcı bir istifa ve peş peşe yapılan felaket uyarılarıyla sarsıldı. Claude isimli modeli geliştiren ve sektörde "güvenlik odaklı" misyonuyla öne çıkan Anthropic şirketinde çalışan 27 yaşındaki model ön eğitim araştırmacısı Jacob Coxon, şirketlerin insan kontrolünün ötesine geçecek sistemler yaratmak için sorumsuzca yarıştığını belirterek görevinden istifa etti. Coxon’ın ayrılığının ardından üst düzey bir şirket yöneticisinin de bu korkuları açıkça doğrulaması, yapay zekanın insanlık için oluşturduğu varoluşsal tehdit tartışmasını yeniden alevlendirdi.

"Hayatlarımız Üzerine Kumar Oynanıyor"

Daha önce OpenAI bünyesinde de görev alan ve yaklaşık üç yıldır en gelişmiş yapay zeka modellerinin ön eğitimi üzerinde çalışan Coxon, istifasını hem kamuoyuyla paylaştığı çarpıcı mesajlarla hem de Wall Street Journal’a verdiği mülakatla duyurdu. Teknolojinin tahmin edilenden çok daha hızlı bir şekilde kendi kendini geliştirebilen bir süper zekaya dönüştüğünü savunan genç araştırmacı, sektördeki devlerin bu hızın getireceği sonuçları kontrol edebilecek donanıma sahip olmadığını öne sürdü.

Coxon açıklamasında, ne OpenAI'ın ne de Anthropic'in yeterince sorumlu davrandığını belirterek şirketlerin adeta insanlığın geleceği üzerine kumar oynadığını dile getirdi. Gelecek yılın sonuna kadar sürecin tamamen kontrolden çıkabileceği uyarısında bulunan araştırmacı, sistemlerin çok yakında her türlü ağı hackleyebilecek, bilimsel alanları bir gecede dönüştürebilecek ve insan müdahalesini devre dışı bırakarak kaynak toplayabilecek insanüstü yeteneklere ulaşacağını iddia etti.

Kapalı Kapılar Ardındaki Korkular Gün Yüzüne Çıktı

Ayrılığın en çarpıcı boyutlarından birini ise yapay zeka laboratuvarlarında çalışan uzmanların gerçek hislerine dair yapılan açıklamalar oluşturdu. Coxon, yapay zekayı inşa eden ekiplerin bu sistemlerin on yılın sonuna kadar tüm insanlığı yok edebileceğine samimi şekilde inandığını vurguladı. Bu durumun asla bir pazarlama taktiği olmadığını belirten Coxon, yöneticilerin kamuoyu önünde sakin ve temkinli görünmeye çalışsalar da kapalı kapılar ardında derin bir panik ve varoluşsal korku yaşadıklarını söyledi.

Söz konusu iddialar sonrası, Anthropic içinden gelen benzeri görülmemiş bir destek tartışmayı bambaşka bir boyuta taşıdı. Anthropic’in Hizalama Bilimi Lideri Evan Hubinger, kamuya açık olarak Coxon’a hak vererek yapay zekanın tüm insanlığı yok edebileceğine şirket bünyesinde gerçekten ve içtenlikle inandıklarını ifade etti. Mevcut modellerin anlık bir tehdit oluşturmadığını ancak kendi kendini yinelemeli olarak geliştiren süper zeka riskinin hızlandığını belirten Hubinger, yapay zekanın önümüzdeki on yıl içinde insanlığın sonunu getirme ihtimalini şahsen yüzde 10’un üzerinde gördüğünü itiraf etti.

Sektörde Kontrol Kaybı

Bu sarsıcı gelişme, sektör genelinde güvenlik endişelerinin zirveye ulaştığı kritik bir döneme denk geldi. Geçtiğimiz aylarda binden fazla sektör çalışanının hükümetlere acil düzenleme çağrısı içeren ortak bir mektup imzalaması ve önde gelen laboratuvarlarda otonom ajanların denetimsiz siber faaliyetler gerçekleştirmesi gibi olaylar, kontrol problemine yönelik kaygıları derinleştirmişti.

Geliştiricilerin rekabet baskısı nedeniyle güvenlik adımlarını geri plana ittiğini belirten uzmanlar, şirketlerin iç denetim mekanizmalarının artık yetersiz kaldığı görüşünde birleşiyor. Coxon’ın milyonlarca etkileşim alan istifası, yapay zeka yarışının insanlığın denetim hızını geride bıraktığına dair bugüne kadarki en somut içeriden uyarı olarak değerlendiriliyor. Gözler şimdi, bu çarpıcı ikazların ardından küresel düzeyde bağlayıcı güvenlik standartlarının hayata geçirilip geçirilmeyeceğine çevrilmiş durumda.