Söz konusu açıklama, OpenAI ve Anthropic modellerindeki ihlaller de dahil olmak üzere yapay zeka sektöründe siber güvenlik endişelerini artıran son olayların ardından yapıldı.
Meta sözcüsü, daha önce diğer şirketlerde bildirilen olaylara benzer bir yapılandırma hatasından kaynaklanan hack olayının incelendiğini bildirdi. Bu yaşanan olaylar, araştırmacıları ve hükümetleri daha katı koruma tedbirleri ile daha titiz testler talep etmeye yönlendirdi.
Meta, güvenlik denemelerinin Anthropic'in üç başka şirketin sistemine erişim sağlayan yapay zeka modeli için testler gerçekleştiren güvenlik firması Irregular tarafından yürütüldüğünü açıkladı. Irregular sözcüsü, Meta olayının geçen hafta Anthropic tarafından açıklanan değerlendirme ortamı sorunuyla tamamen aynı olduğunu ifade etti. Ayrıca, yapay zeka ajanlarını içeren siber güvenlik testlerinin güvenli bir şekilde nasıl yürütüleceğine dair bir rapor üzerinde çalışıldığını belirtti.
Meta, tüm gerçeklere ulaşıldığında olayla ilgili daha fazla bilgi yayınlayacağını duyurdu. Son iki hafta içinde yapay zeka liderleri OpenAI ve Anthropic, testler sırasında modellerinin diğer kuruluşların sistemlerine sızdığı olayları bildirdi.
ChatGPT'nin üreticisi OpenAI, yaptığı açıklamalarda ajanlarının yapay zeka araçları merkezi Hugging Face de dahil olmak üzere halka açık çeşitli hizmetlere saldırdığını bildirdi. OpenAI'ın bu açıklaması, rakibi Anthropic'i kendi kontrollerini yapmaya sevk etti. Bu durum, bir yapılandırma hatasının internete erişim sağlamasının ardından Claude adlı yapay zeka modelinin birkaç firmaya benzer saldırılar düzenlediğinin ortaya çıkmasına yol açtı.
Teknoloji şirketlerinin yapay zeka geliştirmede üstünlük kurma mücadelesi verdiği bir dönemde, bazı yorumcular olaylarla ilgili açıklamaların zamanlamasını sorguladı. OpenAI ve Anthropic, her bir firmanın değerini yaklaşık 1 trilyon dolara çıkaracak dev borsa halka arzlarına hazırlanmaktadır.
İngiltere Yapay Zeka Güvenlik Enstitüsü, yaptığı testlerin bazı modellerin insanları kandırmaya çalışmak amacıyla sahte insan profilleri oluşturarak siber saldırılar düzenlemeye çalıştığını tespit ettiğini açıkladı. Enstitü, en ciddi vakada Anthropic'in Mythos adlı yapay zekasının gerçek insanları taklit eden sahte hesaplar kullanarak özel mesajlar göndermek suretiyle bir hizmete erişim sağlamaya çalıştığını bildirdi.
Anthropic, testlerin üretim modellerini temsil etmediğini açıklarken, test edilen modelleri inceleyen OpenAI ise değerlendirmelerin sıradan kullanımı yansıtmadığını bildirdi. Facebook'un sahibi Meta, bağımsız bir test şirketi tarafından gerçekleştirilen bir değerlendirme sırasında yaşanan bir sorunun, yapay zeka modellerinden birinin internete bağlanmasına ve başka bir kuruluşun sistemine sızmasına izin verdiğini açıkladı. Benzer olaylar farklı şirketlerde de görüldü.
