Oyuncaklardaki boğulma uyarıları, sigara paketlerindeki sağlık mesajları… Devletler bir ürüne uyarı etiketi koymaya başladığında aslında şunu kabul etmiş olurlar. Ürün kitleselleşmiş, faydalarının yanında toplumsal maliyetleri de görünür hâle gelmiştir. Yapay zekâ sohbet botları da artık o eşiği geçti.
Avrupa Birliği, yapay zekâ sohbet botlarına “karşınızdaki insan değildir” demeyi zorunlu kılıyor. Regülasyonun asıl anlattığı ise teknoloji değil, yalnızlığın artık küresel bir pazar haline gelmiş olması.
AB’nin Yapay Zekâ Yasası, sohbet botları için yeni bir dönemin kapısını açıyor. Kullanıcıların, karşılarındaki sistemin bir yapay zekâ olduğunu açıkça bilmesi artık hukuki bir yükümlülüğe dönüşüyor. İlk bakışta teknik bir düzenleme gibi görünebilir. Oysa tarih bize bunun daha derin bir anlamı olduğunu söylüyor.
Oyuncaklardaki boğulma uyarıları, sigara paketlerindeki sağlık mesajları… Devletler bir ürüne uyarı etiketi koymaya başladığında aslında şunu kabul etmiş olurlar. Ürün kitleselleşmiş, faydalarının yanında toplumsal maliyetleri de görünür hâle gelmiştir. Yapay zekâ sohbet botları da artık o eşiği geçti.
Yalnızlık artık bir pazar
Akşam yemeği bitiyor. Aynı evin içinde yaşayan insanlar köşelerine çekiliyor. Ekranlar açılıyor. Özellikle gençler için günün en uzun sohbeti artık çoğu zaman aile bireyleriyle ya da arkadaşlarıyla değil; oyun platformlarında, mesajlaşma uygulamalarında veya bir yapay zekâ sohbet botuyla gerçekleşiyor.
ABD'de yapılan araştırmalar, ergenlerin önemli bir bölümünün en az bir kez yapay zekâ sohbet uygulamalarını kullandığını, düzenli kullanımın ise hızla arttığını gösteriyor. Bu uygulamalar artık yalnızca bir teknoloji girişimi değil. Abonelik modelleri, yatırımcı sunumları, kullanıcı sadakati metrikleri ve milyarlarca dolarlık değerlemeleri olan yeni bir sektör.
Yalnızlık A.Ş. kitabında “yalnızlığın bir duygu olmaktan çıkıp bir pazar boşluğuna dönüşmesi”nden söz etmiştim. Bir ihtiyaç kitleselleştiğinde, onu karşılayacak ürün mutlaka ortaya çıkar. Bugün tanık olduğumuz şey tam olarak bu. “Yapay arkadaşlık” artık yeni bir ürün kategorisi.
Tanımak başka, önemsemek başka
Bu sistemlerin cazibesi net. Sonsuz sabırla dinliyorlar. Yargılamıyorlar. Sizi herkesten çok daha iyi tanır gibi duruyorlar. Ama sizi tanımaları, sizi önemsedikleri anlamına gelmiyor.
Çünkü önemsemek, kaybetme riskini içerir. Risk almayan ilişkinin fedakârlığı da olmaz. Bu nedenle yapay arkadaşlık, aidiyetin kendisini değil, sadece hissini üretir. Konforunu sunar ama sorumluluğunu üstlenmez.
Bilimsel çalışmalar da bu ikili tabloya işaret ediyor. Harvard Üniversitesi araştırmacılarının değerlendirmeleri, yapay zekâ destekli sohbetlerin kısa vadede yalnızlık hissini hafifletebildiğini gösteriyor. MIT Media Lab'in kontrollü deneyleriyse yoğun kullanımın daha yüksek yalnızlık ve duygusal bağımlılık göstergeleriyle ilişkili olabileceğini ortaya koyuyor. Çelişki gibi görünen bu durum aslında oldukça tanıdık. Belirtiyi hafifleten ama hastalığın nedenini ortadan kaldırmayan bir ağrı kesici gibi.
Asıl kırılma toplumsal
Bu durumun toplumsal etkisi daha da kritik.
Topluluk dediğimiz şey, insanların birbirine ihtiyaç duymasıyla ayakta kalır. Komşudan bir fincan şeker istemek, arkadaşını havaalanından almak, bir derdini paylaşmak ya da bir iyilik karşılığında kendini borçlu hissetmek… Güven dediğimiz sosyal sermaye, bu küçük karşılıklılık ilişkilerinin toplamıdır.
Yapay zekâ arkadaşlığı ise tam tersini vaat ediyor. Kimseye ihtiyaç duymadan sohbet etmeyi, kimseye yük olmadan teselli bulmayı…
Kulağa özgürlük gibi geliyor. Oysa uzun vadede karşılıklılığı aşındırıyor. İlişkiyi sürtünme zahmetinden arındırırken, insan olmanın temel koşullarından birini de sessizce ortadan kaldırıyor. Bir başkasına gerçekten ihtiyaç duymayı.
Regülasyonun söylediği
Düzenleyiciler de bu dönüşümü fark etmeye başladı. AB’nin şeffaflık yükümlülükleri gibi ABD'nin bazı eyaletlerinde de özellikle çocukları ve gençleri hedefleyen yapay zekâ sohbet uygulamalarına yönelik yaşa uygun koruma önlemleri ve kriz durumlarında yönlendirme mekanizmaları yürürlüğe giriyor.
Bu düzenlemeler teknolojiyi durdurmaya çalışmıyor. Çok daha önemli bir gerçeği kabul ediyor. “Yapay arkadaşlık” artık niş bir deneyim değil. Kitlesel olmaya başlayan bir davranış biçimi. Bu dalganın karşısında durmak da mümkün değil.
Sonuçta
Önümüzdeki yıllarda yaş doğrulama sistemleri yaygınlaşacak. Çocuklara yönelik koruma mekanizmaları güçlenecek. Yapay zekâ sohbet sistemleri daha sıkı denetlenecek.
Fakat bütün bunlar yalnızca arzı düzenleyebilir. Talebi değil.
Bir çocuğa ya da gence belirli aralıklarla “mola ver ve unutma ben insan değilim” uyarıları çıkarmak mümkün. Ama onlar çok büyük ihtimalle bunu zaten biliyor. Buna rağmen konuşmaya devam ediyorlarsa, sorun teknolojinin onları kandırması değil. Sorun, onları gerçekten dinleyen bir insan olmaması.
Yasalar ürünleri daha güvenli hale getirebilir. Silinen kalemi, yani birbirine karşılıklı ihtiyaç duymayı, bilançoya geri yazmak ise yasaların değil, birbirine yeniden muhtaç olmayı göze alacak insanların işi. Sonuçta, teknolojiyi yasayla düzenlemek mümkün. Ama birbirine yabancılaşmış bir toplumu değil.
