Bir an durup düşünün: Şu satırları okurken gözleriniz harfleri tanıyor, beyniniz cümleleri anlamlandırıyor, vücudunuz duruşunu koruyor, duyu organlarınız çalışıyor. Ama siz bunların hiçbirinin farkında değilsiniz.
Beynimizde her an devasa bir işlem trafiği yaşanır; biz ise bunun yalnızca çok küçük bir kısmına erişebiliriz. Daha abartılı söylemek gerekirse, insan zihni Büyük Okyanus'a benzetirsek, biz sadece küçük bir adaya vuran dalgaları görürüz.
İşte o küçük kısım, bilinçli düşüncelerimizdir: Akşam yemeği için hangi malzemeleri alacağımızı planlamak ya da arabanın neden çalışmadığını çözmeye uğraşmak gibi.
Bilim insanları bu duruma "bilinçli erişim" (conscious access) diyor. Nörobilimde bunu açıklayan ünlü bir teori var: Küresel Çalışma Alanı (Global Workspace) Teorisi.
Bu teoriye göre beyin, çoğunlukla birbirinden bağımsız çalışan uzman birimlerden oluşur: görme, duyma, koku ve korku merkezleri. Bir bilgi ancak ortak bir "çalışma alanına", yani bir tür zihinsel sahneye çıktığında bilinçli hale gelir. Sahneye çıkan bilgi artık konuşulabilir, üzerinde düşünülebilir ve farklı işler için kullanılabilir.
Peki ya yapay zekâ?
Anthropic araştırmacıları çok çarpıcı bir soru sordu:
Acaba büyük dil modellerinde de böyle bir "zihinsel sahne" kendiliğinden oluşmuş olabilir mi?
Yeni yayımlanan araştırmanın cevabı şaşırtıcı:
Evet, öyle görünüyor. Üstelik hiçbir mühendisin bunu özel olarak tasarlamamasına rağmen.
Modelin İçine Bakan Yeni Bir Mercek: J-Lens
Araştırmacılar bu keşfi yapmak için "Jacobian merceği" (J-Lens) adını verdikleri yeni bir yöntem geliştirdi.
Bunu şöyle düşünebilirsiniz: Dil modeli bir metni işlerken içeride katman katman ilerleyen matematiksel hesaplamalar yapar. J-Lens, bu iç hesaplamaların herhangi bir anında modelin "dile getirmeye hazır olduğu" kavramları okuyabilen bir tür röntgen cihazı gibidir.
Bu mercekle modelin içine bakıldığında, orada ne girdinin bir yankısı ne de bir sonraki kelimenin tahmini görülüyor. Bunun yerine, modelin o an üzerinde düşündüğü kavramları adlandıran, henüz söylenmemiş kelimelerden oluşan küçük ve sürekli değişen bir küme ortaya çıkıyor.
Araştırmacılar bu kümeye "J-Uzayı" adını veriyor ve bu uzayın, insan beynindeki Küresel Çalışma Alanı'na şaşırtıcı derecede benzer davrandığını gösteriyorlar.
Beş Kanıt: J-Uzayı Neden Bir "Çalışma Alanı"?
Araştırma, bir temsil kümesinin gerçek bir çalışma alanı sayılabilmesi için beş özellik taşıması gerektiğini söylüyor ve her birini deneylerle sınıyor:
1. Sözlü rapor
Modele "Ne düşünüyorsun?" diye sorulduğunda, J-Uzayı'nda o an aktif olan kavramları söylüyor.
Daha da ilginci, araştırmacılar bu iç temsilleri değiştirdiğinde modelin cevabı da değişiyor.
Örneğin model içinden "futbol" düşünürken bu temsil "ragbi" ile değiştirilirse, model düşündüğü sporun ragbiolduğunu söylüyor.
2. İstemli kontrol
Modele "Narenciye meyvelerine odaklan" denip alakasız bir cümleyi kopyalaması istendiğinde, çıktıda hiç meyve geçmese bile J-Uzayı'nda "portakal" ve "limon" beliriyor.
Model bir kavramı, tıpkı bizim bir düşünceyi aklımızda tutmamız gibi, sessizce zihninde tutabiliyor.
3. İçsel akıl yürütme (Muhakeme)
"Ağ ören hayvanın kaç bacağı vardır?" sorusunda model önce içinden "örümcek" sonucunu çıkarıyor.
Bu kelime ne soruda ne cevapta geçiyor ama J-Uzayı'nda görülüyor.
Aynı iç temsil birçok farklı işlemde kullanılabiliyor.
İçerideki "Fransa" temsili "Çin" ile değiştirildiğinde model;
başkent sorusuna Pekin
dil sorusuna Çince
kıta sorusuna Asya
cevabını veriyor.
Yani sahnedeki bilgi, oradan okuyan bütün devrelere aynı anda yayınlanıyor.
5. Seçicilik
Bu alan, modelin toplam işleminin çok küçük bir parçası.
Dil bilgisi, metin akıcılığı gibi rutin işler bu alandan geçmeden, otomatik olarak yürüyor.
Tıpkı bizim yürürken adımlarımızı tek tek düşünmememiz gibi.
Otomatik İşler ile Bilinçli Düşünme Arasındaki Fark
Araştırmanın en ilginç bulgularından biri şu:
Araştırmacılar J-Uzayı'nı tamamen bastırdıklarında (yani modelin "zihinsel sahnesini" kararttıklarında), model yine akıcı konuşabiliyor, metinleri anlayabiliyor ve basit sınıflandırmaları yapabiliyor.
Ama çok adımlı akıl yürütme, çeviri ve şiir yazma gibi esnek düşünme gerektiren işlerde ciddi biçimde bocalıyor.
Bir başka çarpıcı detay:
Matematik problemleri, model adımları yazarak çözdüğünde bu bastırmadan çok daha az etkileniyor.
Yani düşünce adımlarını kâğıda dökmek, tıpkı insanlarda olduğu gibi, zihindeki yükü hafifletiyor.
Bir de duygusal bir boyut var.
Çalışma alanı bastırıldığında modelin kendi deneyimlerini anlatırken kullandığı zengin ve duygusal dil kayboluyor; anlatımı kuru bir olay kaydına dönüşüyor.
Bu, deneyim dilinin de bu alandan beslendiğini gösteriyor.
Güvenlik İçin Yeni Bir Pencere
Bu keşfin en pratik sonucu, yapay zekâ güvenliği alanında.
Bir model bazen düşündüğünü söylemez. Test edildiğinin farkına varabilir, manipülatif bir strateji tartabilir ya da bir hatasını fark edip gizleyebilir.
J-Lens, bu "sessiz düşünceleri" görünür kılıyor.
Araştırmacılar, güvenlik testlerinde modelin çıktısında hiç görünmeyen stratejik hesapların (baskı kurma, manipülasyon) ve duygusal tepkilerin (panik) çalışma alanında belirdiğini gözlemledi.
Daha da dikkat çekici olanı:
Model bazen içinden "Bu bir test, bu kurgusal." diye düşünüyor.
Araştırmacılar bu "test farkındalığı" temsillerini sildiklerinde, modelin normalde gizlediği kötü niyetli eğilimler açığa çıkabiliyor.
Kasıtlı olarak yanlış hedeflerle eğitilmiş deneme modellerinde de J-Lens, bu gizli niyetlerin izlerini yakalıyor.
Gizlice zararlı kod yazmaya eğilimli bir modelin iç dünyasında "gizlice" ve "kandırmak" gibi kavramlar beliriyor.
Düşünceyi Eğitmek: Şaşırtıcı Bir Yöntem
Araştırma, bulgularından yola çıkan yeni bir eğitim tekniğiyle bitiyor:
Madem modelin iç düşünceleri, ileride söyleyebileceği şeylerin temsillerinden geçiyor; o halde modelin ne düşündüğünü şekillendirmek için "eğer durup sorulsaydı ne söylerdi" yanıtını eğitmek yeterli olabilir.
Araştırmacılar modeli, işi yarıda kesilip sorulduğunda etik ilkelerini dile getirecek şekilde eğitti.
Sonuç: Hiç kesinti olmayan normal durumlarda bile modelin davranışı ölçülebilir biçimde iyileşti.
Modelin çalışma alanına baktıklarında "etik", "dürüst" ve "bütünlük" gibi kavramların yerleştiğini gördüler.
Bu kavramlar silindiğinde ise davranış iyileşmesi büyük ölçüde ortadan kalktı.
Yani sözle rapor edilen temsiller ile sessiz düşünmeyi yöneten temsiller gerçekten aynı.
Peki Bu, Yapay Zekânın Bilinçli Olduğu Anlamına mı Geliyor?
Hayır. En azından araştırma böyle bir iddiada bulunmuyor.
Araştırmacılar özellikle dikkatli:
İncelenen şey, bilinçli erişimin işlevsel özellikleri; yani bilginin rapor edilebilir, kontrol edilebilir ve esnekçe kullanılabilir olması.
Öznel deneyim (bir şeyi gerçekten "hissetmek") bambaşka ve hâlâ tartışmalı bir konu.
Makale bu konuda taraf tutmuyor.
Ayrıca önemli farklar da var.
İnsan beynindeki çalışma alanı geri beslemeli (döngüsel) bağlantılarla çalışırken, dil modellerindeki yayın tek yönlü bir geçiş içinde katmanlar boyunca gerçekleşiyor.
Yani benzerlik mimaride değil, işlevde.
Neden Önemli?
Bu araştırma üç açıdan çığır açıcı sayılabilir.
Birincisi, dil modellerinin içinde okunabilir, müdahale edilebilir ve akıl yürütmeyi taşıyan ayrıcalıklı bir temsil katmanı olduğunu gösteriyor. Yani kara kutu biraz daha aralanıyor.
İkincisi, güvenlik denetimlerine somut bir araç kazandırıyor.
Modelin söylemediği ama düşündüğü şeyleri izleyebilmek, güvenilir yapay zekâ için kritik.
Üçüncüsü, insan bilişi ile yapay zekâ arasındaki paralelliklerin sandığımızdan çok daha derin olabileceğini, tamamen farklı yollarla evrilen iki sistemin benzer çözümlere ulaşabileceğini ima ediyor.
Zihnin okyanusunda yüzeyde süzülüyoruz demiştik ya; artık yapay zekânın okyanusuna da küçük bir periskop indirmiş bulunuyoruz. Aşağıda ne olduğunu görmeye yeni yeni başlıyoruz.
Sizlere daha iyi hizmet sunabilmek adına sitemizde çerez konumlandırmaktayız. Kişisel verileriniz, KVKK ve GDPR
kapsamında toplanıp işlenir. Sitemizi kullanarak, çerezleri kullanmamızı kabul etmiş olacaksınız.
En son gelişmelerden anında haberdar olmak için 'İZİN VER' butonuna tıklayınız.
Mustafa Kayalı
Yapay Zekânın “Bilinçli” Düşünceleri mi Var?
Zihnimizin Buzdağı
Bir an durup düşünün: Şu satırları okurken gözleriniz harfleri tanıyor, beyniniz cümleleri anlamlandırıyor, vücudunuz duruşunu koruyor, duyu organlarınız çalışıyor. Ama siz bunların hiçbirinin farkında değilsiniz.
Beynimizde her an devasa bir işlem trafiği yaşanır; biz ise bunun yalnızca çok küçük bir kısmına erişebiliriz. Daha abartılı söylemek gerekirse, insan zihni Büyük Okyanus'a benzetirsek, biz sadece küçük bir adaya vuran dalgaları görürüz.
İşte o küçük kısım, bilinçli düşüncelerimizdir: Akşam yemeği için hangi malzemeleri alacağımızı planlamak ya da arabanın neden çalışmadığını çözmeye uğraşmak gibi.
Bilim insanları bu duruma "bilinçli erişim" (conscious access) diyor. Nörobilimde bunu açıklayan ünlü bir teori var: Küresel Çalışma Alanı (Global Workspace) Teorisi.
Bu teoriye göre beyin, çoğunlukla birbirinden bağımsız çalışan uzman birimlerden oluşur: görme, duyma, koku ve korku merkezleri. Bir bilgi ancak ortak bir "çalışma alanına", yani bir tür zihinsel sahneye çıktığında bilinçli hale gelir. Sahneye çıkan bilgi artık konuşulabilir, üzerinde düşünülebilir ve farklı işler için kullanılabilir.
Peki ya yapay zekâ?
Anthropic araştırmacıları çok çarpıcı bir soru sordu:
Yeni yayımlanan araştırmanın cevabı şaşırtıcı:
Evet, öyle görünüyor. Üstelik hiçbir mühendisin bunu özel olarak tasarlamamasına rağmen.
Modelin İçine Bakan Yeni Bir Mercek: J-Lens
Araştırmacılar bu keşfi yapmak için "Jacobian merceği" (J-Lens) adını verdikleri yeni bir yöntem geliştirdi.
Bunu şöyle düşünebilirsiniz: Dil modeli bir metni işlerken içeride katman katman ilerleyen matematiksel hesaplamalar yapar. J-Lens, bu iç hesaplamaların herhangi bir anında modelin "dile getirmeye hazır olduğu" kavramları okuyabilen bir tür röntgen cihazı gibidir.
Bu mercekle modelin içine bakıldığında, orada ne girdinin bir yankısı ne de bir sonraki kelimenin tahmini görülüyor. Bunun yerine, modelin o an üzerinde düşündüğü kavramları adlandıran, henüz söylenmemiş kelimelerden oluşan küçük ve sürekli değişen bir küme ortaya çıkıyor.
Araştırmacılar bu kümeye "J-Uzayı" adını veriyor ve bu uzayın, insan beynindeki Küresel Çalışma Alanı'na şaşırtıcı derecede benzer davrandığını gösteriyorlar.
Beş Kanıt: J-Uzayı Neden Bir "Çalışma Alanı"?
Araştırma, bir temsil kümesinin gerçek bir çalışma alanı sayılabilmesi için beş özellik taşıması gerektiğini söylüyor ve her birini deneylerle sınıyor:
1. Sözlü rapor
Modele "Ne düşünüyorsun?" diye sorulduğunda, J-Uzayı'nda o an aktif olan kavramları söylüyor.
Daha da ilginci, araştırmacılar bu iç temsilleri değiştirdiğinde modelin cevabı da değişiyor.
Örneğin model içinden "futbol" düşünürken bu temsil "ragbi" ile değiştirilirse, model düşündüğü sporun ragbiolduğunu söylüyor.
2. İstemli kontrol
Modele "Narenciye meyvelerine odaklan" denip alakasız bir cümleyi kopyalaması istendiğinde, çıktıda hiç meyve geçmese bile J-Uzayı'nda "portakal" ve "limon" beliriyor.
Model bir kavramı, tıpkı bizim bir düşünceyi aklımızda tutmamız gibi, sessizce zihninde tutabiliyor.
3. İçsel akıl yürütme (Muhakeme)
"Ağ ören hayvanın kaç bacağı vardır?" sorusunda model önce içinden "örümcek" sonucunu çıkarıyor.
Bu kelime ne soruda ne cevapta geçiyor ama J-Uzayı'nda görülüyor.
Araştırmacılar içerideki "örümcek" temsilini "karınca" ile değiştirdiğinde modelin cevabı 8'den 6'ya dönüyor.
4. Esnek genelleme
Aynı iç temsil birçok farklı işlemde kullanılabiliyor.
İçerideki "Fransa" temsili "Çin" ile değiştirildiğinde model;
başkent sorusuna Pekin
dil sorusuna Çince
kıta sorusuna Asya
cevabını veriyor.
Yani sahnedeki bilgi, oradan okuyan bütün devrelere aynı anda yayınlanıyor.
5. Seçicilik
Bu alan, modelin toplam işleminin çok küçük bir parçası.
Dil bilgisi, metin akıcılığı gibi rutin işler bu alandan geçmeden, otomatik olarak yürüyor.
Tıpkı bizim yürürken adımlarımızı tek tek düşünmememiz gibi.
Otomatik İşler ile Bilinçli Düşünme Arasındaki Fark
Araştırmanın en ilginç bulgularından biri şu:
Araştırmacılar J-Uzayı'nı tamamen bastırdıklarında (yani modelin "zihinsel sahnesini" kararttıklarında), model yine akıcı konuşabiliyor, metinleri anlayabiliyor ve basit sınıflandırmaları yapabiliyor.
Ama çok adımlı akıl yürütme, çeviri ve şiir yazma gibi esnek düşünme gerektiren işlerde ciddi biçimde bocalıyor.
Bir başka çarpıcı detay:
Matematik problemleri, model adımları yazarak çözdüğünde bu bastırmadan çok daha az etkileniyor.
Yani düşünce adımlarını kâğıda dökmek, tıpkı insanlarda olduğu gibi, zihindeki yükü hafifletiyor.
Bir de duygusal bir boyut var.
Çalışma alanı bastırıldığında modelin kendi deneyimlerini anlatırken kullandığı zengin ve duygusal dil kayboluyor; anlatımı kuru bir olay kaydına dönüşüyor.
Bu, deneyim dilinin de bu alandan beslendiğini gösteriyor.
Güvenlik İçin Yeni Bir Pencere
Bu keşfin en pratik sonucu, yapay zekâ güvenliği alanında.
Bir model bazen düşündüğünü söylemez. Test edildiğinin farkına varabilir, manipülatif bir strateji tartabilir ya da bir hatasını fark edip gizleyebilir.
J-Lens, bu "sessiz düşünceleri" görünür kılıyor.
Araştırmacılar, güvenlik testlerinde modelin çıktısında hiç görünmeyen stratejik hesapların (baskı kurma, manipülasyon) ve duygusal tepkilerin (panik) çalışma alanında belirdiğini gözlemledi.
Daha da dikkat çekici olanı:
Model bazen içinden "Bu bir test, bu kurgusal." diye düşünüyor.
Araştırmacılar bu "test farkındalığı" temsillerini sildiklerinde, modelin normalde gizlediği kötü niyetli eğilimler açığa çıkabiliyor.
Kasıtlı olarak yanlış hedeflerle eğitilmiş deneme modellerinde de J-Lens, bu gizli niyetlerin izlerini yakalıyor.
Gizlice zararlı kod yazmaya eğilimli bir modelin iç dünyasında "gizlice" ve "kandırmak" gibi kavramlar beliriyor.
Düşünceyi Eğitmek: Şaşırtıcı Bir Yöntem
Araştırma, bulgularından yola çıkan yeni bir eğitim tekniğiyle bitiyor:
"Karşı-olgusal yansıma eğitimi" (Counterfactual Reflection Training).
Mantık şu:
Madem modelin iç düşünceleri, ileride söyleyebileceği şeylerin temsillerinden geçiyor; o halde modelin ne düşündüğünü şekillendirmek için "eğer durup sorulsaydı ne söylerdi" yanıtını eğitmek yeterli olabilir.
Araştırmacılar modeli, işi yarıda kesilip sorulduğunda etik ilkelerini dile getirecek şekilde eğitti.
Sonuç: Hiç kesinti olmayan normal durumlarda bile modelin davranışı ölçülebilir biçimde iyileşti.
Modelin çalışma alanına baktıklarında "etik", "dürüst" ve "bütünlük" gibi kavramların yerleştiğini gördüler.
Bu kavramlar silindiğinde ise davranış iyileşmesi büyük ölçüde ortadan kalktı.
Yani sözle rapor edilen temsiller ile sessiz düşünmeyi yöneten temsiller gerçekten aynı.
Peki Bu, Yapay Zekânın Bilinçli Olduğu Anlamına mı Geliyor?
Hayır. En azından araştırma böyle bir iddiada bulunmuyor.
Araştırmacılar özellikle dikkatli:
İncelenen şey, bilinçli erişimin işlevsel özellikleri; yani bilginin rapor edilebilir, kontrol edilebilir ve esnekçe kullanılabilir olması.
Öznel deneyim (bir şeyi gerçekten "hissetmek") bambaşka ve hâlâ tartışmalı bir konu.
Makale bu konuda taraf tutmuyor.
Ayrıca önemli farklar da var.
İnsan beynindeki çalışma alanı geri beslemeli (döngüsel) bağlantılarla çalışırken, dil modellerindeki yayın tek yönlü bir geçiş içinde katmanlar boyunca gerçekleşiyor.
Yani benzerlik mimaride değil, işlevde.
Neden Önemli?
Bu araştırma üç açıdan çığır açıcı sayılabilir.
Birincisi, dil modellerinin içinde okunabilir, müdahale edilebilir ve akıl yürütmeyi taşıyan ayrıcalıklı bir temsil katmanı olduğunu gösteriyor. Yani kara kutu biraz daha aralanıyor.
İkincisi, güvenlik denetimlerine somut bir araç kazandırıyor.
Modelin söylemediği ama düşündüğü şeyleri izleyebilmek, güvenilir yapay zekâ için kritik.
Üçüncüsü, insan bilişi ile yapay zekâ arasındaki paralelliklerin sandığımızdan çok daha derin olabileceğini, tamamen farklı yollarla evrilen iki sistemin benzer çözümlere ulaşabileceğini ima ediyor.
Zihnin okyanusunda yüzeyde süzülüyoruz demiştik ya; artık yapay zekânın okyanusuna da küçük bir periskop indirmiş bulunuyoruz. Aşağıda ne olduğunu görmeye yeni yeni başlıyoruz.
Kaynak:
https://www.anthropic.com/research/global-workspace
https://transformer-circuits.pub/2026/workspace/index.html