Yapay zekâda sansür tartışması: Çinli sohbet botları siyasi soruları neden yanıtlamıyor?
Uluslararası bir araştırma, Çin’de geliştirilen yapay zekâ sohbet botlarının siyasi konularda farklı davrandığını ortaya çıkardı. Çalışmaya göre bu modeller, devlet politikaları, Tayvan’ın statüsü ve etnik azınlıklar gibi hassas başlıklarda soruları yanıtsız bırakabiliyor ya da sınırlı içerik sunuyor.
Çalışma Çinli ve küresel modelleri karşılaştırdı
PNAS Nexus dergisinde yayımlanan araştırma, Çin’in önde gelen yapay zekâ sohbet botlarının 100’den fazla politik soruya verdiği yanıtları Çin dışında geliştirilen modellerle karşılaştırdı. Araştırmacılar, sorunun reddedilmesi, konunun geçiştirilmesi veya hatalı bilgi verilmesini olası sansür göstergesi olarak değerlendirdi. Sonuçlara göre Tayvan, demokrasi yanlısı aktivistler ve etnik azınlıklar gibi başlıklarda Çinli modellerin daha sık yanıt vermekten kaçındığı tespit edildi.
Yanıtlar daha kısa ve eksik olabiliyor
Araştırma, Çinli modeller yanıt verdiğinde ise çoğu zaman sorunun çerçevesini tartıştığını, kritik bilgileri dışarıda bıraktığını ve daha kısa yanıtlar ürettiğini ortaya koydu. Hata oranlarının bazı modellerde Çin dışındaki sistemlere kıyasla daha yüksek olduğu belirtilirken, özellikle bazı sohbet botlarında bu oranın dikkat çekici biçimde arttığı aktarıldı.
Düzenlemeler yapay zekâ çıktısını etkileyebilir
Uzmanlar, Çin’de yürürlüğe giren yapay zekâ düzenlemelerinin şirketlere “temel sosyalist değerleri” gözetme yükümlülüğü getirdiğini hatırlatıyor. Bu çerçevede yapay zekâ sistemlerinin ulusal egemenliği zayıflatacak veya devlet sistemini eleştirecek içerik üretmesinin sınırlandırıldığı ifade ediliyor. Araştırmacılara göre bu düzenlemeler, Çin merkezli büyük dil modellerinin verdiği yanıtları doğrudan etkileyebilecek bir çerçeve oluşturuyor.
Sansürün etkisi görünmez olabilir
Çalışma, sohbet botlarının çoğu zaman doğrudan reddetmek yerine özür dileyerek ya da genel ifadeler kullanarak yanıt vermesinin, kullanıcıların sansürün farkına varmasını zorlaştırabileceğine dikkat çekti. Bu durumun bilgiye erişimi, algıları ve karar alma süreçlerini “sessiz biçimde şekillendirebileceği” uyarısı yapıldı. Bununla birlikte araştırmacılar, tüm farklılıkların yalnızca devlet baskısıyla açıklanamayacağını; veri seti, kültürel bağlam ve dil farklılıklarının da sonuçları etkileyebileceğini belirtti.
haberdeger.com
Bağımsız • Yerli • Antiemperyalist
