Google ve DeepMind araştırmacıları, AGI'nin geleceğini ve olası risklerini konuşmak için DeepMind Enstitüsü'nü (DMI) kurdu. Enstitü, yapay zekânın geleceğine dair farklı alanlardan görüşleri bir araya getirecek.
Yapay zekâ artık yalnızca kendisine verilen komutu yerine getiren sistemlerden ibaret değil. Metin yazıyor, görsel üretiyor, kod yazıyor, karmaşık soruları yanıtlıyor ve farklı görevler arasında geçiş yapabiliyor. AGI, yani yapay genel zekâ, bu gelişimin bir sonraki adımı olarak görülüyor. Tek bir alana sıkışmadan öğrenebilen, akıl yürütebilen ve karşısına çıkan yeni problemleri çözebilen bir yapay zekâdan söz ediyoruz. Henüz böyle bir sistem geliştirilmiş değil ancak bu yöndeki çalışmalar hızla ilerliyor.
Google ve DeepMind araştırmacıları da bu gelişimin nereye gittiğini tartışmak için DeepMind Enstitüsü’nü (DMI) kurdu. Yakın zamanda yapay zekâ geliştirme hızının yavaşlatılması gerektiğini savunan Google DeepMind Başkanı Demis Hassabis’in de içinde bulunduğu bu enstitü; meseleyi yalnızca teknoloji dünyasının penceresinden ele almayacak.
DMI’ye göre AGI gibi bir teknolojinin ortaya çıkması yalnızca teknoloji uzmanlarını ilgilendiren bir konu değil. Böyle bir sistemin ekonomiden çalışma hayatına, kamu politikalarından günlük yaşama kadar geniş bir etkisi olabilir. Bu nedenle tartışmanın içine teknoloji dışındaki alanların da dahil edilmesi gerektiği savunuluyor.
DMI’da tartışılan önerilerden biri, gelişmiş yapay zekâ modellerinin piyasaya çıkmadan önce 30 gün boyunca bağımsız testlerden geçirilmesi. Demis Hassabis’in önerdiği sisteme göre geliştiriciler, yeni modellerini piyasaya sürmeden önce bağımsız bir kuruluşa değerlendirme için gönderecek.
Testlerin bir bölümünün geliştiricilerin önceden bilmediği, gizli değerlendirmelerden oluşması da öneriliyor. Böylece modellerin yalnızca hangi testlerden geçeceği bilinerek hazırlanmasının önüne geçilmesi hedefleniyor.
Bu sistem işe yararsa, başlangıçta gönüllü olan değerlendirmelerin ileride bir gerekliliğe dönüşmesi de gündeme gelebilir.
Önerilen çerçeve yalnızca testlerle sınırlı değil. Risklerin arttığı bir noktada güvenlik önlemlerinin sıkılaştırılması ve gerekirse gelişmiş yapay zekâ modelleri üzerinde çalışan şirketlerin koordineli biçimde yavaşlaması da gündemde.
DMI’nin yayımladığı bu fikirlerin Google‘ın resmî politikaları olmadığı da özellikle belirtiliyor. Platform, bunları daha çok AGI’nin geleceği üzerine tartışmayı başlatacak öneriler olarak sunuyor.
