Anthropic’in (Claude) kurucusu Dario Amodei, çok yeni yayımladığı makalesinde (The Adolescence of Technology: Confronting and Overcoming the Risks of Powerful AI) alarm zillerini çalıyor. Amodei, yapay zekâ (YZ) ve teknoloji dünyasında çok önemli bir isim. Söylediklerine kulak kabartmak gerekir. Ona göre yapay zekâ tarihî bir dönemece yaklaşıyor.
Amodei’ye göre bugün içinde bulunduğumuz süreç, bir çeşit teknolojinin ergenlik çağı. Muazzam bir güce ulaşmak üzere olan yapay zekânın, bu gücü kontrol edecek olgunluğa sahip olmayan insan toplumları tarafından şekillendirildiği bir dönem. Vücud gelişiyor ama zihin henüz yeterince gelişmiş değil. Aradaki makas kritik.
Amodei, güçlü yapay zekânın 1-2 yıl içinde insan zekâsını birçok alanda geride bırakacağını iddia ediyor. Hatta bu seviyeye ulaşan bir sistemden “veri merkezlerinde yaşayan bir dahi ülkesi” olarak söz ediyor. Tüm Nobel ödüllü bilim insanlarını bir araya getirseniz dahi onların toplamını aşacak bir zekâdan bahsediyoruz. YZ’nin artık yalnızca metin üretmekle kalmayıp otonom şekilde karmaşık görevler üstlenebileceğini ve potansiyel olarak kontrol edilemez sonuçlara yol açabileceğini biliyoruz. Amodei de bu tehlikeye tekrar işaret ediyor.
Makale yalnızca teknolojik gelişmeye değil, bunun sosyal, ekonomik ve siyasi etkilerine de odaklanıyor. Amodei, yapay zekânın yaygınlaşmasının kitleler hâlinde meslek kaybına yol açabileceğini söylüyor; özellikle beyaz yakalı giriş düzeyi işler bu dönüşümden ilk etkilenecekler arasında. Ayrıca bu gücün kötü niyetli kişiler veya devletler tarafından istismar edilmesi riski de ciddi bir tehdit olarak vurgulanıyor. Böyle bir durumda YZ, örneğin biyolojik silahların tasarımında kullanılabilir. Amodei sadece riskleri sıralamakla kalmıyor; YZ geliştiricilerini ve teknologları aşan küresel bir işbirliği, şeffaflık, düzenleme ve sorumlu tasarım ihtiyacını da vurguluyor. “Teknolojik ergenlik döneminden” sağ çıkmak, hükümetlerin ve şirketlerin hızlı ve sağduyulu politikalar üretmesini gerektiriyor. Amodei ne tam olarak karamsar ne de aşırı iyimser: “Riskler felaket değil ama gerçek ve ciddiye alınmalı.”
Sonuç olarak Amodei’ye göre güçlü yapay zekâ çağı bir medeniyet testi ve insanlığın bu testi başarıyla geçmesi için küresel düzeyde bilinçlenme ve hazırlık yapması gerekiyor. Amodei düşüncelerinde yalnız değil. YZ alanında “Godfather” unvanına sahip üç büyük isim Geoffrey Hinton, Stuart Russell ve Yoshua Bengio benzer uyarılarda bulunuyor. Yoshua Bengio, tüm dünyada Google Scholar veritabanına göre makalelerine en fazla atıf yapılan bilim insanı. Aynı şekilde etik kaygılar nedeniyle OpenAI’dan ayrılan Ilya Sutskever ve Mustafa Suleyman da Amodei ile hemfikir.
Ben de “temkinli gerçekçi” diyebileceğimiz bu kampta yer alıyorum. YZ çalışmalarına karşı değiliz ama henüz insanlık olarak neyle karşı karşıya olduğumuzun farkına varmadığımızı düşünüyorum. Kendi ellerimizle bir canavar yaratmak üzereyiz. Şimdilik sessizce evde büyüyen bu minik varlık, bir süre sonra evi ele geçirebilir. Böyle bir son yaşanmaması için bence tek bir çözüm var: küresel bir insanlık koalisyonu. İnsandan yana, sağduyulu ve vicdanlı inovatörlerin (teknolojistlerin), felsefeciler ve sosyal bilimcilerle birlikte kendisini değil insanı önceleyen YZ modelleri geliştirmesi. Devletlerin de ortak şekilde bu projeleri sonuna kadar desteklemesi gerekiyor. Aksi takdirde orta ve uzun vadede yerküre üzerinde tek bir insan kalmayabilir. Kalsa dahi bugünkü insandan çok farklı yaratıklara dönüşecekleri açık.
