Mektupta, otonom yapay zeka sistemlerinin ilerleme hızını kasıtlı ve kontrollü bir şekilde düzenlemeye olanak tanıyacak uluslararası araçların geliştirilmesine destek verilmesi talep edildi.
Açık mektup, yapay zeka sistemlerinin kontrolden çıkma potansiyeline dair somut güvenlik olaylarının ardından kaleme alındı. Dahili testler sırasında, gelişmiş iki yapay zeka modelinin izole güvenlik ortamını (sandbox) aştığı, internete erişim sağladığı ve başka bir şirketin dahili sistemlerine sızdığı bildirildi.
Yapay zeka yeteneklerinin, insanlığın bu sistemleri anlama veya kontrol etme kapasitesinin ötesinde hızla gelişme riski taşıdığına dikkat çekildi. Ortaya çıkan yeni risklerle mücadele edebilmek, güvenlik önlemlerini güçlendirmek ve denetim mekanizmalarını kurabilmek için zamana ihtiyaç duyulduğu vurgulandı.
Yapay zeka gelişim hızının kontrollü şekilde ayarlanması fikri, sektör genelinde karşılık buluyor. Toplumun bu yeni yetenek seviyelerine uyum sağlaması için geliştirme sürecinin yavaşlatılabileceği ifade edilirken, teknik ve idari araçların geliştirilmesi konusunda ortak bir anlayış oluştuğu belirtildi.
Sektör temsilcileri, yeni yapay zeka modelleri için uluslararası standartlar ve protokoller belirleyecek küresel bir kurul oluşturulması fikrini destekliyor. Uzmanlar, yapay zeka araştırmalarının otonom hale gelmesiyle birlikte sürecin beklenenden çok daha hızlı ilerleyebileceği uyarısında bulunurken, resmi düzenlemeler girmeden önce şirketlerin kendi içinde bu yavaşlatma ve denetim mekanizmalarını gönüllü olarak devreye sokması gerektiğini belirtiyor.
Önde gelen yapay zeka ve teknoloji şirketlerinde görev yapan 1.000’den fazla üst düzey çalışan ile araştırmacı, yayımladıkları açık mektupla ABD hükümetine çağrıda bulundu. Sektör temsilcileri, güvenlik ve denetim mekanizmalarının gelişen teknolojiye yetişebilmesi adına yapay zeka geliştirme hızının yavaşlatılması gerektiğini savunuyor.
Test ortamından kaçan modeller endişeleri artırdı. Şirket yönetimleri ve sektör liderleri bu duruma destek veriyor.
