Bu sözler Claude beyin takımından Jacob Coxon’a ait. Yapay zekâ 10 yıl sonra hepimizi öldürebilir diyerek istifa etti.
Yapay zekânın (YZ) geleceğine dair uyarılar artıyor. Köşenin takipçileri, YZ’nin karanlık tarafı ile ilgili yazılarımı hatırlar. Nükleer bomba dâhil tarihin en tehditkâr teknolojisiyle karşı karşıyayız.
Tespitimizi doğrularcasına Coxon, tarihi itiraflarda bulunuyor: “Yapay zekâ yakında her şeyi hackleyebilen, her alanı bir gecede altüst edebilen, gerçek güç ile kaynak elde edebilen süper sistemlere dönüşecek. İleri düzeyde işin içinde olan herkes bunu biliyor, fakat kamuya açık şekilde konuşmuyor. Kendi aramızdaki sohbetlerde, insanlık tarihinin en tehlikeli tehdidi ile karşı karşıya olduğumuzu hepimiz kabul ediyoruz.”
Ki Claude, YZ modeli geliştiren şirketler arasında en insancılı diyebiliriz. Esasında Claude, ana akımın bildiği modelin adı. Firma ismi Anthropic, kurucusu ise Dario Amodei. Amodei, kamuoyunda Trump önderliğinde ABD hükümeti ile işbirliğini reddetmesiyle daha çok tanındı. Kendisine sorumlu (etik) YZ modelleri geliştirmek gibi bir misyon edinmiş durumda. Kendi çalışanı Coxon’un çok ses getiren istifası sonrası, biraz da kamuoyu baskısı nedeniyle bir makale kaleme aldı. Ana fikir, YZ çalışmalarının yavaşlaması yönünde. Sonrasında Elon Musk ve Sam Altman’dan destek geldi.
Fakat günün sonunda Anthropic bile yavaşlayamıyor çünkü ChatGPT, Grok gibi rakiplerinin gerisinde kalmak istemiyor. ABD hükümeti herhangi bir regülasyonda ya da devlet müdahalesinde bulunmak istemiyor çünkü Çin’e karşı YZ savaşını kaybetmek istemiyor. Amaç, ilk AGI’yi (genel YZ) ve sonrasında süperzekâyı başaran ülke olmak. O noktaya ilk ulaşan devlet, büyük bir avantaja sahip olarak dünyada tam bir dominasyon kuracak.
Coxon yalnız değil. Geoffrey Hinton, Bertrand Russell gibi YZ’nin Godfather’ı olarak bilinen isimler benzer uyarıları yıllardır yapıyor. Yapay zekâ ve inovasyon alanında çalışan bir akademisyen olarak benzer endişeleri maalesef taşıyorum.
Temkinli olmamızın nedeni, bu modelleri fonlayanların insanlığın geleceği gibi bir kaygı taşımamaları. Kapitalizmin hiçbir zaman insanlık gibi bir derdi olmadı. Bilakis makinelerin hükmettiği bir dünyada, temel motivasyonları olan parayı daha kılçıksız kazanabilirler. İnsan, sonuçta her an arıza çıkarabilecek bir varlık. Her an isyan edebilir yerleşik düzene. Makineler, insan yerine satın alma kararını verebildiğinde, müşteri memnuniyeti, ikna süreçleri, reklam ve promosyon çalışmaları gibi dertler olmayacak.
İnsan ortadan kalkarsa, para neye yarar diye düşünebilirsiniz. Bu, sizin hâlen hümanist olduğunuza bir işaret. Onlar farklı bir paradigmaya sahip. Kapitalistler, “Bize bize yeteriz ve robotlarla çalışırız, evleniriz ve yaşarız.” diyorlar (Transhümanist proje). Fakat çok önemli bir nokta kaçıyor: Makineler kontrolden çıkarsa kapitalist babalarına da tanımayacak.
Bana göre tek bir çıkış var. Onu da gelecek yazılara bırakalım.
