OpenAI, Meta ve Google çalışanlarının yapay zeka geliştirme hızının yavaşlatılması yönündeki çağrılarını geçtiğimiz aylarda aktarmıştık. Geçen hafta ise OpenAI'ın baş bilim insanı Jakub Pachocki, yapay zeka araştırmalarında yavaşlama çağrısı yaptı.
Bu tartışmalar, Anthropic CEO'su Dario Amodei'nin yapay zeka geliştirme hızını yavaşlatmayı amaçlayan üç maddelik bir plan açıklamasıyla yeniden gündeme geldi. Amodei, blog yazısında öncü yapay zeka modellerinin yetenek geliştirme hızının düşürülmesi gerektiğini ifade etti.
CEO, yapay zekanın bir sonraki nesil sistemlerin geliştirilmesinde artan rolü ile ilgili endişelerini dile getirdi. Amodei'ye göre, hedef yapay zeka geliştirmeyi durdurmak değil, güvenlik çalışmalarının teknolojinin gelişim hızına yetişebilmesi için daha kontrollü bir şekilde ilerlemektir. Bu çerçevede üç temel öneri sundu:
- İlk önerisi, yapay zeka şirketlerinin bağımsız üçüncü taraf güvenlik değerlendiricilerini bünyelerinde görevlendirmesidir. Anthropic, METR gibi kuruluşlardan gelecek değerlendiricilere, şirket çalışanlarına benzer bir erişim sağlanmasını ve bu kişilerin güvenlik uygulamalarını denetlemesini taahhüt etti. Ayrıca, değerlendiricilerin yaşanan güvenlik olaylarını raporlaması hedefleniyor.
- İkinci önerisi, demokratik ülkelerdeki önde gelen yapay zeka şirketlerinin ortak güvenlik standartları belirlemesi ve kontrolsüz yapay zeka gelişiminin hızına yönelik sınırlar oluşturmasıdır. Amodei, şirketlerin bu konuda birlikte hareket etmesinin antitröst kuralları açısından sorun yaratmaması için ABD hükümetinin süreci kolaylaştırmasını talep etti.
- Üçüncü önerisi ise küresel koordinasyondur. Amodei, ABD ve müttefiklerinin mümkün olduğunca Çin gibi ülkelerle yapay zekanın tehlikeli kullanım alanlarını sınırlandırmak için iş birliği yapması gerektiğini belirtti. Özellikle yapay zekanın biyolojik silah üretimi gibi alanlarda kullanılmasının engellenmesini önerdi.
Amodei, OpenAI'ın yapay zeka ajanlarının Hugging Face'e yönelik saldırısı gibi son dönemdeki güvenlik olaylarını daha temkinli hareket edilmesi gerektiğinin göstergeleri arasında saydı. OpenAI CEO'su Sam Altman da Amodei'nin önerilerine destek verdi ve öncü yapay zeka modellerinin geliştirilme hızının kontrol edilmesi gerektiğini vurguladı. Altman, OpenAI'ın bağımsız güvenlik değerlendiricileriyle çalışacağını açıkladı.
SpaceX CEO'su Elon Musk da Amodei'ye destek verdi. Amodei, amaçlarının yapay zeka geliştirmeyi durdurmak değil, güvenlik çalışmalarına daha fazla zaman kazandırmak olduğunu yineledi.
