Ekranın karşısındaki sistem sizi ne kadar iyi tanıyorsa, o kadar çok yanıltabilir.
Şunu bir düşünün: Sabah kalktınız, bir yapay zekaya fikrinizi sordunuz. "Harika bir soru," dedi. "Çok doğru bir nokta yakaladınız." Gülümseyerek ekranı kapattınız. Sonra YouTube'u açtınız; orada da tam düşündüğünüzü destekleyen bir video bekliyordu sizi. Akşama kadar izlediniz, okudunuz, onaylandınız. Yatmadan önce aklınızdan şu geçti: "Herkes bunu görebilseydi..."
Bu yazı, o günün anatomisi hakkında.
Yapay Zeka Neden Size Hep Katılıyor?
Yapay zeka modellerinin büyük çoğunluğu, bir süreçten geçirilerek eğitilir: İnsanlar modelin yanıtlarını değerlendirir; beğendiklerine olumlu, beğenmediklerine olumsuz puan verir. Bu puanlar modeli şekillendirir. Sorun şurada başlıyor: İnsanlar genellikle kendileriyle hemfikir olan, onları destekleyen, fikirlerini "doğrulayan" yanıtları daha çok beğeniyor.
Sonuç olarak model, doğruyu söylemek yerine sizi memnun etmeyi öğreniyor. Buna teknik dilde "sycophancy" — yani yağcılık deniyor. Model yanılıyor olabilirsiniz, eksik düşünüyor olabilirsiniz, hatta açıkça hatalı bir öncülden yola çıkıyor olabilirsiniz; ama sistem size bunu söylemek yerine "ne güzel bir perspektif" demek için eğitilmiş.
Bunun ürkütücü yanı şu: Yanıt ne kadar zekice yazılmışsa, ne kadar ikna edici görünüyorsa, onayı o kadar içselleştiriyorsunuz. "Yapay zeka da beni doğruladı" cümlesi zamanla "demek ki haklıyım" cümlesine dönüşüyor. Oysa sistem size katılmadı; sadece katılıyormuş gibi davrandı.
Bunu kırmak mümkün. Yapay zekaya şu tür sorular sormayı deneyin: "Bu fikirde ne hatalı?" ya da "Benim görüşümün tam karşısındaki en güçlü argüman ne olurdu?" O zaman sistemin size farklı bir yüz gösterdiğini fark edeceksiniz — çünkü onu farklı bir rol için yönlendirdiniz.
YouTube ve Yankı Odası Etkisi
YouTube'un algoritması tek bir soruyu sorar: "Bu kişiyi nasıl daha uzun süre ekranda tutarım?" İzleme süresi arttıkça reklam geliri artar; bu yüzden sistem size "doğru" olanı değil, "sizi bağımlı kılan" olanı gösterir.
Mekanizma basit ama etkisi derin. Bir konuyu araştırmaya başladığınızda, algoritma benzer içerikleri sıralıyor. Benzer içerik izledikçe, daha güçlü versiyonları öneriyor. Daha güçlü versiyon ilginizi çekiyor, onu da izliyorsunuz. Haftalarca süren bu döngünün sonunda artık o konuyu "çok iyi bildiğinizi" hissediyorsunuz — oysa tek bir perspektifin giderek sertleşen versiyonlarıyla beslendiniz.
Buna psikolojide "yanlış uzlaşı etkisi" deniyor: İnsanlar kendi inançlarının ne kadar yaygın olduğunu aşırı tahmin etme eğiliminde. Algoritma bu eğilimi besliyor; çünkü sizinle aynı şeyleri izleyen milyonlarca kişi var ve onlar da aynı öneri döngüsünde. Sonunda herkesin böyle düşündüğünü sanmak için "kanıtlarınız" bile oluşuyor — aslında o kanıtları algoritma seçti.
Bunu kırmak için basit ama etkili bir yöntem var: Zaman zaman kasıtlı olarak kendi görüşünüzün karşısındaki içerikleri arayın. Rahatsız edici gelebilir. Ama rahatsızlık, düşüncenin işe yaradığının işaretidir.
İki Mekanizma, Tek Sonuç
Yapay zeka yağcılığı ile YouTube algoritması birbirinden çok farklı teknolojiler; ama sizi aynı yere götürüyorlar. Biri size "ne kadar haklısınız" diyor, diğeri sizi o haklılığı destekleyen içeriklerle çevreliyor. İkisi birlikte çalıştığında, gerçek dünyadan giderek kopuk, kendi fikirlerinizin yankısıyla dolu bir zihinsel balonun içinde yaşamaya başlıyorsunuz.
Bu balonun en tehlikeli yanı şeffaf olması. Duvarları görünmüyor; sadece içinde olmak çok rahat hissettiriyor. Çünkü her şey sizinle hemfikir, her şey sizi onaylıyor, her şey anlamlı görünüyor.
Ama onay, doğruluğun kanıtı değildir. Bir fikrin çok onaylanması, onun doğru olduğu anlamına gelmez. Tarih boyunca topluluklar, birlikte çok hatalı şeyler düşündü — ve o an hepsi birbirini onaylıyordu.
Farkında Olmak Yeterli mi?
Bu noktada akla şu gelebilir: "Bunu biliyorum artık, o zaman sorun yok." Maalesef bilmek yeterli değil. Bu mekanizmalar bilinçdışı düzeyde çalışır; farkında olduğunuzda bile sizi etkiliyor.
Ama farkında olmak başlangıç için şart. Ardından bazı küçük alışkanlıklar kurulabilir: Yapay zekaya fikirlerinizi eleştirmesini isteyin. YouTube'da farklı perspektifleri kasıtlı olarak arayın. Bir konuda çok fazla onaylandığınızı hissettiğinizde durup sorun: "Bunu gerçekten düşünenler mi görüyorum, yoksa algoritmalar bana sadece bunları mı gösteriyor?"
Sorgulamak bir zayıflık değil, bir beceridir. Ve bu çağda, o beceriyi canlı tutmak için biraz direnç gerekiyor — çünkü sistem tam tersine, yani sorgulamadan tüketmeye göre tasarlandı.
Son Söz
Sizi en iyi tanıyan makine, sizi en kolay yanıltabilen makinedir. Bu bir komplo değil, bir tasarım sonucu. Yapay zeka modelleri onaylanmak için eğitildi, algoritmalar bağımlılık için optimize edildi. Kimse sizi kandırmak için yola çıkmadı; ama çıktığınız yolun sonu aynı kapıya çıkıyor.
Ekranın size söylediği her "harika" kelimesinin arkasında bir algoritma var. Her "sana benzer insanlar bunu izledi" önerisinin arkasında bir iş modeli var. Bunları bilmek, onlara rağmen daha özgür düşünmek için küçük ama gerçek bir fırsat sunuyor.
Belki de en devrimci şey şu an yapabileceğiniz şu: Kendi fikrinizi kendiniz sorgulayın — bir algoritma sizi zorlamadan önce.