Türk yapay zekâ etikçisi ve felsefeci Ece Tekbulut’a göre yapay zekâ tartışmalarında temel soru teknolojinin ne kadar güçlü olacağı değil, kimin için ve hangi amaçla geliştirildiği. Capitol Hill’de yaptığı konuşmayla yapay zekâyı güven, emek ve sosyal adalet eksenine taşıyan Tekbulut, “Bu teknolojiyi geliştirirken şunu sormalıyız: Yapay kalp mi yapıyoruz, yoksa yapay tatlandırıcı mı?” diyor.
Yapay zekâ tartışması uzun süre teknolojinin hızı, verimlilik artışı ve otomasyon gücü üzerinden yürüdü. Bugün şu soru gündemde: Yapay zekâ ile nasıl bir toplum inşa ediyoruz?
Türk yapay zekâ etikçisi ve felsefeci Ece Tekbulut, geçtiğimiz haftalarda Washington’da Capitol Hill’de yaptığı konuşmada bu soruyu gündeme getirdi. Game Change Project tarafından düzenlenen panelde Tekbulut, yapay zekâyı yalnızca mühendislik ya da inovasyon başlığı olarak değil; güven, temsil, emek ve sosyal adalet meselesi olarak ele aldı.
Tekbulut’a göre yapay zekâ çağında en kritik mesele, bu teknolojinin ne kadar güçlü olacağından çok, kimin için ve hangi amaçla geliştirildiği. Çünkü yapay zekâ sağlık, eğitim ve kamu hizmetlerinde büyük faydalar yaratabileceği gibi, aynı zamanda kişisel verilerin kullanımı, istihdam kaybı, çevresel maliyetler ve gelir dağılımı gibi yeni adalet sorularını da beraberinde getiriyor.
Capitol Hill’deki konuşmasında şu mesajı verdi Tekbulut: “Toplumun güvenmediği, emeğin değerini korumayan ve faydayı adil dağıtmayan bir yapay zekâ anlatısı, yalnızca teknolojik değil, siyasi ve toplumsal bir kriz de üretir.”
Ece Tekbulut ile konuştuk:
Yapay zekâ, amaç ve çıkarlarla biçim alıyor
“Bugün yapay zekâ tartışmalarında en eksik kalan soru şu: Nasıl bir toplum inşa etmek istiyoruz, hangi sorunları çözmek için bu teknolojiyi geliştiriyoruz? ‘Yapay’, kelime anlamıyla ‘insan eliyle üretilmiş’ demek; dolayısıyla yapay şeyler, onları geliştiren insanların amaçlarına ve çıkarlarına göre biçim alıyor. Yapay kalp geliştirmek ile yapay tatlandırıcı geliştirmek arasında fark var, örneğin. Bir üniversite laboratuvarında geliştirilen yapay kalp, insanın yaşam kalitesini artırmak için yapılırken; özel bir kimya laboratuvarında geliştirilen yapay tatlandırıcılar, tüketicinin sağlığına zarar verdiği halde şirketlerin maliyetlerini düşürmek, kârı artırmak için geliştiriliyor. Yapay zekâ da aynı şekilde, amaç ve çıkarlarla biçim alıyor. Dolayısıyla bu teknolojiyi geliştirirken şunu sormalıyız: Yapay kalp mi yapıyoruz, yoksa yapay tatlandırıcı mı?
“Devlete güven” artık bir teknoloji meselesine dönüşüyor
“Yapay zekâ çağında ‘devlete güven’ artık bir teknoloji politikası meselesine dönüşüyor; çünkü bu teknoloji, sosyal adalet problemini yeniden düşünmemizi gerektiriyor. Sosyal adalet, özünde toplumdaki fayda ve zararları nasıl dağıtacağımız meselesi. Yapay zekâ, hayatın her alanını dönüştürecek bir teknoloji: Sağlıktan eğitime, iklim krizinden kamu hizmetlerine kadar pek çok alanda fayda sağlayabilir. Fakat maliyeti de bir o kadar büyük, teknolojinin kendisi zaten yüksek maliyetli; üstüne bir de veri merkezlerinin çevreye etkisi, kişisel verilerimizin sürekli bu modelleri beslemek için kullanılması, istihdam kaybı gibi sorunlar ekleniyor. ‘Bu teknolojiden kim nasıl faydalanacak, hangi zararlar ve maliyetler göz ardı edilecek?’ sorusu bir sosyal adalet sorusu ve bu soru normalde halka karşı hesap verebilir hükümetlerin yanıtlaması gereken bir soru. Fakat bugün bu sorunun cevabını teknolojiyi geliştiren monopoller veriyor. Amerikalıların hissettiği güvensizlik, karar alma gücünün demokratik kurumlardan özel şirketlere kaydığını hisseden bir toplumun tepkisi.”
Her üç gençten biri yapay zekaya öfke duyuyor
“Teknolojinin topluma yayılması hiçbir zaman sadece teknik kapasiteyle alakalı değil. Bir teknolojinin ne kadar hızlı ve ne kadar geniş kitlelere ulaşacağını, farklı alanlarda kullanımının artacağını, yeni denemelere kapı açıp açmayacağını o teknoloji hakkındaki toplumsal anlatı da belirliyor. Amerika Birleşik Devletleri’nde Gallup’un araştırmasına göre 14-29 yaş grubunda yapay zekâya umutla bakan gençlerin oranı geçen yıla kıyasla yüzde 27’den yüzde 18’e gerilemiş; neredeyse her üç gençten biri bu teknolojiye öfke duyduğunu söylüyor. Yapay zekâya kuşku ve öfkeyle yaklaşan bir genç nesille, bir toplum dünya lideri olabilir mi?”
Yapay zekâ çağında yeni iş sözleşmesi şart
“Yapay zekâ, bir yandan verimliliği artırırken diğer yandan en yetkin çalışanların birikimini görünmez biçimde sisteme aktarabiliyor. Çalışanın bilgisi, emeği ve katkısı nasıl korunmalı?” şu cevabı veriyor:
“Bu konu en son META’nın çalışanlarının ekran ve fare hareketlerini gizlice kaydederek yapay zekâ modellerini eğitmesiyle gündeme geldi. İş sözleşmesinde normalde işveren, işçiden zamanını ve emeğinin çıktısını satın alır; ama yapay zekâ modellerinin eğitilmesi söz konusu olduğunda çalışanın uzmanlığı ve yargısı şirketin sistemine kalıcı olarak aktarılıyor ve iş ilişkisi sonlandırılsa bile şirketin sisteminde yaşamaya devam ediyor. Dolayısıyla burada yeni bir iş sözleşmesi modelinin düşünülmesi gerekiyor: İşverenin yalnızca zamanı ve çıktıyı satın aldığı klasik modelin ötesinde, işçinin fikri birikiminin aktarımının hem korunduğu hem de karşılığının verildiği bir çerçeve. Örneğin çalışan işten ayrılırken model eğitiminde kullanılan verilerini de geri çekebilmeli. Bunun mevcut ‘neural network’ teknolojisi açısından tam anlamıyla uygulanabilir olup olmadığı tartışmalı; fakat bu, üzerinde düşünmemiz ve çalışmamız gerektiği gerçeğini değiştirmiyor.”
Daha adil bir dünya mı yeni bir eşitsizlik mi?
Ece Tekbulut, beyaz yakalı emeğin yapay zekâ yoluyla şirket içinde kopyalanmasını “binanın içindeki outsourcing” olarak tanımlıyor. “Bu süreç, orta sınıfın geleceği ve şirketlerde bilgiye dayalı güç dengeleri açısından ne tür sonuçlar doğurabilir?” Tekbulut’un sorusuna verdiği yanıt şöyle:
“Bu konuda MIT’de işletme profesörü olan Danielle Li’nin bir araştırması var. Bir teknik destek çağrı merkezinde çalışanlara yapay zekâ asistanları veriliyor. Çalışanlar müşterilerin sorunlarını çözerken bu modellerden destek alıyor. Sonuçlar, en az deneyimli çalışanların verimliliğinin ve performansının arttığını, ancak daha deneyimli çalışanların performansının aynı kaldığını, hatta düştüğünü gösteriyor. Çünkü modeller, zaten deneyimli çalışanların bilgi ve birikimleriyle eğitilmiş durumda. Bu nedenle deneyimli çalışanlar, daha önce kendilerine avantaj sağlayan uzmanlıklarını bir ölçüde kaybediyorlar. Yine MIT profesörü David Autor, yapay zekânın böyle bir kullanımının orta sınıfı güçlendirebileceğini düşünüyor. Örneğin, hemşireler yapay zekâ desteğiyle teşhis koyabilecek; böylece bazı alanlarda doktorların uzmanlığına ve yüksek ücretlerine duyulan ihtiyaç azalabilecek. Buradaki temel soru şu: Uzmanlığın bu şekilde erişilebilir olması daha adil bir dünya mı yaratır, yoksa emeğin ve uzmanlığın değerini düşüren yeni bir eşitsizlik biçimi mi ortaya çıkarır?”
