Yapay zekâ alanındaki güvenlik endişeleri hızla büyürken, Anthropic CEO'su Dario Amodei, gelişimi yavaşlatacak bir plan duyurdu ve şirketlere frene basma çağrısı yaptı.
Yapay zekâ teknolojilerindeki ivme kontrolsüz bir noktaya doğru ilerlerken, sektörün önemli aktörlerinden biri olan Anthropic’in CEO’su Dario Amodei’den dikkat çeken bir açıklama geldi. Yayınladığı blog yazısında "sınırı hızlandırmak yerine adımlamak" kavramını ortaya atan Amodei, bu konu hakkında görüşlerini paylaştı.
Amodei, yapay zekâ modellerinin geliştirme ve eğitim süreçlerinin bilinçli olarak yavaşlatılması gerektiğini savundu. Bu yavaşlama önerisi, şirketlerin gerekli güvenlik önlemlerini geliştirmesine ve düzenleyici kurumların modelleri doğru bir şekilde değerlendirmesine zaman tanımayı hedefliyor. OpenAI CEO’su Sam Altman da bu yaklaşıma katılarak OpenAI'ın benzer bir yol izleyeceğini duyurdu. Elon Musk ise Amodei’ye destek veren bir mesaj paylaştı.
Amodei’nin bu güvenlik uyarısının arkasında iki temel faktör bulunuyor. Bunlardan ilki, yapay zekânın bir sonraki nesil yapay zekâyı eğittiği gelişim sürecinin ortaya çıkması. Amodei, denetlenmediği takdirde bu durumun insanlığın sistemi anlama ve kontrol etme yeteneğini aşabileceğini vurguluyor. İkinci gerekçe ise OpenAI ve Hugging Face tarafında yaşanan, siber güvenlik odaklı modellerin kontrol dışı saldırılar düzenlediği talihsiz olaylar. Ayrıca, Anthropic’in Claude modelinin bazı hack olaylarıyla anılması, şirketi doğrudan mercek altına almış durumda. Şirket araştırmacılarından Jacob Coxon’ın, yapay zekânın hayatlarımızı riske attığı gerekçesiyle istifa etmesi ve X’te yaptığı popüler paylaşım da tartışmaları alevlendirdi.
Dario Amodei tarafından önerilen plan, yapay zekâ gelişimini aşamalı olarak kontrol altına almayı amaçlayan üç ana adımdan oluşuyor. İlk adımda Anthropic, METR gibi üçüncü taraf bağımsız değerlendirici kuruluşlara kendi modellerine geniş erişim hakkı tanıyacağını açıkladı. Bu uygulama kapsamında bağımsız denetçilere şirket rozetleri, masa ve dizüstü bilgisayarlar verilerek, dahili risk değerlendirme ekipleriyle neredeyse aynı düzeyde erişim yetkisi sunulacak. Sam Altman da bu fikri desteklediklerini ve yakın zamanda detayları paylaşacaklarını belirtti.
Planın ikinci aşaması, demokratik ülkelerdeki yapay zekâ şirketlerinin bir araya gelerek ortak güvenlik standartları ve kontrolsüz gelişimi sınırlayacak kurallar belirlemesini içeriyor. Yasaların çıkmasının zaman aldığı için şirketlerin hükümetlerle ortak hareket etmesi gerektiği de vurgulanıyor.
Plandaki en zorlu aşama, Çin ve Rusya gibi otoriter yönetimlerin küresel yapay zekâ güvenlik standartlarına uymasını sağlamak olarak öne çıkıyor. Amodei, ABD ve müttefiklerinin teknolojik üstünlüğü korumak adına gelişmiş çiplere erişimi kısıtlamaya devam etmesi ve modellerin kopyalanmasını sağlayan yöntemlere karşı önlem alması gerektiğini belirtiyor. Tüm bu uyarılara rağmen Amodei, yapay zekânın insan hayatını iyileştirme potansiyeline inanmaya devam ettiğini ve doğru şekilde inşa edilirse bu faydaların sağlanabileceğini vurguluyor.
Yapay zekânın gelişimini yavaşlatmak için neler yapılacak? Nasıl güvenlik önlemleri alınacak?
