Terminatör: Kıyamet Günü filminde, T800 model robot ‘vurulduğun zaman acı duyuyor musun?’ sorusuna şu yanıtı verir: ‘Yaralanmaları algılıyorum. Verilerim bunu ‘acı’ olarak adlandırabilir.’
Bu yanıt, yapay zekâ tartışmalarının merkezindeki boşluğu yıllar öncesinden işaret eder: Algılamak başka, hissetmek başka bir şeydir.
Bugün yapay zekâ sistemleri şiir yazıyor, resim çiziyor, hastalık teşhisi koyuyor, müzik besteliyor. Bir zamanlar yalnızca insana özgü sayılan zihinsel yetiler, büyük bir hızla algoritmik süreçlere dönüşüyor.
Ancak asıl soru hâlâ önümüzde duruyor: Bu sistemler gerçekten düşünüyor mu? Hissediyor mu? Anlıyor mu?
Bilinç, düşünmekten fazlasıdır.
Bir yapay zekâ, sizi ‘günaydın’ diye karşılayabilir. ‘Üzgünüm’ diyebilir. Sizinle en yakın arkadaşınız gibi konuşabilir. Hatta dertleşebilir. Ama bunlar, yalnızca milyarlarca kelime örüntüsünden hesaplanmış sentetik çıktılardır!
Burada bilinç kavramı devreye giriyor. Bilinç, salt bilgi işlemek değil; bir şeyin farkında olmak, kendini bilmek, hissetmek ve anlam kurmak demektir.
Felsefeci Thomas Nagel, ‘Bir yarasa olmak nasıl bir şeydir?’ sorusunu sorar. İlginç bir soru, değil mi? Bir yarasanın davranışlarını dışardan gözlemleyebiliriz. Hareketlerinden bazı yargılara varabiliriz. Bilimsel olarak inceleyebiliriz. Ama içsel deneyimini, yani yarasa olmak hissini asla bilemeyiz.
İşte yapay zekâ için de temel sınır burada: Davranışı taklit edebilir, ama insanın bilinçli deneyimini yaşayamaz.
İyi ama… Ne fark eder?
Makineler hissetmese de iş görüyor. Hem de müthiş bir verimlilikle. Bir yapay zekâ size doğru teşhis koyabiliyorsa, hissetmiş olsun ya da olmasın ne önemi var ki? Bu haklı bir itiraz gibi görünebilir.
Ama, bu noktada konu teknik olmaktan çıkar. Etik, toplumsal ve varoluşsal bir zemine kayar. Çünkü bilinç yalnızca bireysel bir durum değil, sorumluluk ve hesap verebilirlikle de ilgilidir.
Yani, bir yapay zekâ ‘üzgünüm’ diyebilir ama pişman olmaz. ‘Seni anlıyorum’ diyebilir ama empati kurmaz. Karar verir gibi görünebilir ama hiçbir kararın sorumluluğunu taşımaz.
Peki. Bu neyi değiştirir? Şunu: Empati, pişmanlık, sorumluluk gibi kavramlar olmadığında, algoritmaların devraldığı işler için güven, adalet, şeffaflık gibi değerleri nasıl teminat altına alacağız? Ortaya çıkan sonucun sorumlusu kim olacak? Algoritma mı, onu tasarlayan mı, veriyi sağlayan mı? Onu olduğu gibi kullanan mı?
Devam edelim. Bilinçli ve bilinçsiz arasında ayrım gözetmediğimizde, değer atfetme sistemimiz çöker. Peki, bu ne demek?
Bir CEO, çalışanını değil, ‘daha verimli’ olduğu için algoritmayı dinler. Bir öğrenci, öğretmenini değil, ‘daha hızlı’ bilgi veren ChatGPT’yi tercih eder. Bir hasta, doktorun bilgisi ve deneyimine değil, yapay zekânın ‘istatiksel’ teşhisine güvenir.
Kısa vadede rasyonel gibi görünen bu tercihler, uzun vadede anlam üreten insana olan güveni zayıflatır. Çalışan, öğretmen, doktorun değeri salt verimlilikle ölçülür hâle gelir. Ve sonunda insan, optimize edilebilir bir çıktı nesnesine indirgenir.
Anlam yoksa yankı da olmaz.
Aslına bakarsanız; bilinç, duygu, anlam, empati gibi kavramlar önemini yitirse de dünya dönmeye devam eder. Her şey tıkır tıkır çalışır. Sistemler karar verir, işler yine yapılır, çarklar döner.
Ama artık şunlar olmaz: Kimse bir hatadan utanmaz. Kimse bir şiirde kendini bulmaz. Kimse başkasının acısını yüreğinde hissetmez. Kimse yaptıklarından pişmanlık duymaz. Çünkü, anlam yoksa yankı da yoktur.
İnsan, yaşayan bir varlıktır. Ve yaşam yalnızca üretmek, çözmek, hesaplamak değildir. Yaşam, hissetmek, anlam aramak, özlemek, pişman olmak, empati duymaktır.
Bilinçsizlikle örgütlenmiş bir sistemde bu değerler görünmez olur. Verimliliğin tavan yaptığı bir çağda, duygusal çoraklaşma başlar. Vasatlığın krallığı kurulur.
Çünkü algoritmalar mükemmel tekrarlar yaratabilir ama yaratıcılık, çelişki ve anlam gibi insana özgü özellikleri taklit edemez.
Sonuç: Bilinç, insanlığın kırmızı çizgisidir.
Evet, makineler şiir yazabilir. Konuşabilir. Duygusal ihtiyaçlarımıza cevap verebilir gibi bile görünebilir. Ama yaşayamaz. Bu fark yalnızca teknik değil, varoluşsal bir ayrımdır.
O nedenle mesele ‘yapay zekâ insanı nasıl etkiler?’ değil, ‘insandan geriye ne kalır?’ sorusudur. Ve bu sorunun yanıtı serttir: Eğer bilinç, duygu, vicdan ve empati önemsizleşirse, insan kalmaz.
İşte o zaman, her şey (sözde) işler… ama gerçekte hiçbir şey yaşanmaz.
