Anthropic'ten istifa eden araştırmacı Jacob Coxon, yapay zekanın güç kazanarak insanlığı tehdit edebileceği iddiasıyla teknoloji dünyasında sarsıcı bir etki yarattı.
Yapay zeka araştırmacısı Jacob Coxon, Anthropic'ten ayrıldığını duyururken, sektör içinden dikkat çeken uyarılarda bulundu. X hesabındaki paylaşımlarında yapay zekanın insanlığı öldürebileceğini öne sürdü.
Coxon, son üç yılını OpenAI ve Anthropic'te geçirerek, bu süre zarfında GPT-4 gibi modellerin eğitim süreçlerine katıldığını ifade etti. 2023'ten Temmuz 2026'ya kadar OpenAI’da çalışan Coxon, şirketlerin "kendini geliştirebilen süper zekaya" ulaşmak için yarıştığını ve bu süreçte insan hayatlarıyla kumar oynandığını ileri sürdü.
Coxon, gelecekteki sistemlerin yalnızca sohbet botu olmayacağını, siber saldırılarda insanları aşabileceğini ve gerçek dünyada güç elde edebileceğini savundu. Teknoloji şirketlerinde çalışanlara, "Bu teknolojinin gücünü hafife almayın" çağrısında bulundu.
Ayrıca, yapay zeka laboratuvarları içindeki risk algısına da değinen Coxon, bazı üst düzey isimlerin kamu önünde ölçülü ifadeler kullanmasına rağmen, özel görüşmelerde kontrolsüz sistemlerin on yıl içinde ölümcül sonuçlar doğurabileceğine inandığını belirtti. Bu durumun bir pazarlama taktiği olmadığını vurguladı.
Anthropic’te çalışan Evan Hubinger de benzer kaygılar taşıdığını ifade ederek, yapay zekanın insanlığın yok oluşuna yol açma ihtimalini kişisel olarak %10’un üzerinde gördüğünü aktardı.
Coxon, yapay zeka yarışını "kibirli bir kumar" olarak nitelendirerek, süper zekanın geliştirilmesi gibi önemli kararların özel şirket yöneticileri tarafından alınmaması gerektiğini savundu. Bu riskin "özel bir şirketin Slack kanalından başlatılmaması" gerektiğini belirtti.
Karamsar olmadığını söyleyen Coxon, ancak ABD’deki büyük laboratuvarlar arasında geliştirme hızını sınırlayacak anlaşmalar yapılabileceğini öne sürdü. Gerekirse daha güçlü yapay zeka modellerinin geliştirilmesine geçici yasak getirilmesi gerektiğini de ifade etti.
Araştırmacı, meslektaşlarından önümüzdeki yıllarda karşılaşacakları kararları şimdiden düşünmelerini ve süper zeki sistemler tam olarak anlaşılmadan eğitim süreçlerini başlatmamalarını talep etti. "Nasılsa biri yapacak" mantığı yerine, farklı koşullar ve güvenlik mekanizmaları talep etmeleri gerektiğinin altını çizdi.
😟
