Evet. Ve hayır.
Aslında sorunun kendisi yanıltıcı. Çünkü, yapay zekânın herkeste aynı etkiyi yarattığını varsayıyor. Oysa yaratmıyor.
MIT'nin yakın tarihli çalışması, yazma sürecini neredeyse tamamen yapay zekâya bırakan katılımcılarda nöral bağlantıların ortalamada zayıfladığını gösteriyordu. Düşünmeyi ertelemek aslında ödeme takvimi belirsiz bir bilişsel borçlanma gibi. Faturası belki bir sınavda, toplantıda ya da kriz anında kesilebilir.
Ama o çalışmanın az konuşulan bir bulgusu daha var. Önce kendi başına düşünüp yazan, ardından yapay zekâdan destek alan katılımcıların beyin etkinliği, en baştan itibaren tamamen araca yaslananlardan belirgin biçimde farklıydı. Yani mesele yalnızca yapay zekâyı kullanıp kullanmamak değil. Onu hangi sırayla ve hangi zihinsel alışkanlıkla kullandığımız.
Davranış bilimine göre bunun adı heterojen etki. Aynı müdahale herkeste aynı sonucu üretmez. Bir grubun bilişsel performansı gerilerken, başka bir grubunki gelişebilir. Ortalama etki ise bu iki farklı yönün birbirini dengelemesinden ibarettir.
Biraz karıştı mı? Açalım.
"Ortalama kullanıcı" diye biri yok
Yapay zekâ üzerine yürüyen tartışmaların çoğu, sanki "ortalama kullanıcı" diye gerçek bir insan varmış gibi yapılıyor. Oysa ortalama kullanıcı, çoğu zaman istatistiksel bir soyutlama.
Elbette ortalamalar var. Ortalama gelir, ortalama ekran süresi, ortalama tıklama oranı ya da ortalama sınav başarısı gibi göstergeler gerçek ve değerli. Ancak bunlardan hareketle "ortalama bir insan" tasarlamak bambaşka bir şey.
Aynı kişi müzikte ana akım tercihleri benimserken, kitap seçiminde son derece seçici, siyasette marjinal, alışverişte ise tamamen fiyat odaklı olabilir. Gerçek kullanıcılar farklı özelliklerin benzersiz birleşimlerinden oluşur. "Ortalama kullanıcı" ise çoğu zaman analiz yapmayı kolaylaştıran istatistiksel bir kurgudur.
İşte bu nedenle, yapay zekânın etkisini tek bir ortalamaya çıpalayarak açıklamak sağlıklı olmaz.
Büyüteç etkisi
Yapay zekâ, bilişsel emeğin maliyetini dramatik şekilde düşürüyor. Yazmak, bilgi toplamak, özet çıkarmak ya da rapor ve sunum oluşturmak artık çok kolay. Fakat, bu maliyetin düşmesi herkes için aynı anlama gelmiyor.
Düşünmeyi zaten erteleme eğiliminde olan biri için bu kolaylık, düşünmeyi daha da gereksiz hale getirebilir. Doğrulama, sorgulama ve muhakeme gibi kritik yetiler böylece giderek daha fazla dışarıya (algoritmalara) devredilebilir.
Buna karşılık, sorgulamayı alışkanlık haline getirmiş biri için aynı araç rutin işlerin yükünü alır. Böylece insana daha fazla analiz etme, ilişki kurma ve derin düşünme zamanı kazandırır.
Yani, yapay zekâ herkesi aynı noktaya götürmez. Çoğu zaman mevcut eğilimleri büyütür. Meraklı olanı daha üretken, düşünmekten kaçanı ise daha bağımlı hale getirebilir. Bir büyüteç gibi. Altına ne koyarsanız onu büyütür.
Ama durun. Büyüteç metaforu da aracı fazla masum gösteriyor olabilir. Çünkü yapay zekâ yalnızca mevcut alışkanlıkları büyütmez. Zamanla yeni alışkanlıklar da üretir.
İnsanlar çoğu zaman aktif seçim yapmaz. Önlerine konulan yolu izler. Sohbet kutusu her açıldığında ilk öneri "Bana sor" ise, zamanla ilk refleks düşünmek değil, sormak haline gelir.
Aynı akıntı kürek çekeni hızlandırır, küreği bırakanı ise sürükler. Tasarım bir yön önerir. Ama o yönde nasıl ilerleyeceğimizi mevcut alışkanlıklarımız belirler.
Ortalamanın krallığı
Buradan Algo Economicus kavramına geliyoruz. Algoritmalar, tasarımcılarının zihnindeki kullanıcı modeline göre inşa edilir. Bu modeller de çoğu zaman "ortalama kullanıcı" varsayımına dayanır. Bu ilk bakışta makul görünür. Çünkü sistem en yüksek ortalama verimi hedefler.
Ancak zamanla ilginç bir dönüşüm yaşanır. Algoritmalar yalnızca ortalamayı keşfetmez. Onu üretmeye de başlar.
Eğer milyonlarca insan aynı önerileri görüyor, aynı yazma kalıplarına yönlendiriliyor, aynı varsayılan seçeneklerle karşılaşıyorsa, kullanıcılar (ve çıktılar) giderek birbirine benzemeye başlar. Böylece "ortalama", yalnızca bir istatistik olmaktan çıkar. İnsanların birbirine benzediği ve kümelendiği bir norma dönüşür.
İşte asıl risk burada. Heterojenliği dikkate almayan tasarım, zamanla heterojenliği azaltabilir. Farklı düşünme biçimlerini desteklemek yerine onları törpüleyebilir. Algoritmalar artık yalnızca bizi yansıtan aynalar değil, bizi biçimlendiren mimarlar haline gelebilir.
Asıl soru
O halde kurumların, okulların peşinde olması gereken tek konu, "yapay zekâ eğitimi verelim" olmamalı. Çünkü eğitim, aracı öğretir. Düşünme alışkanlığını, sorgulamayı, merak etmeyi değil. Bunun için de sistemsel önlemler alınması gerekiyor.
Sonuçta, yapay zekâ bizi ne otomatik olarak daha akıllı yapıyor ne de kaçınılmaz biçimde aptallaştırıyor. Ama hangi alışkanlıkların güçleneceğini ve hangilerinin köreleceğini şekillendiriyor.
Bu yüzden risk teknolojide değil. Teknolojinin üzerine inşa edildiği insan tasarımında. Buradan çıkış da ancak düşünme alışkanlığını, sorgulamayı, merak etmeyi korumakla mümkün. Teknolojiye körü körüne teslim olarak değil.
