OpenAI'ın bir test sırasında kullandığı yapay zeka modellerinin, yapay zeka geliştirme platformu "Hugging Face" altyapısında güvenlik ihlaline yol açmasıyla ilgili endişeler devam ediyor.
Senatörlerin Talepleri
ABD'li Cumhuriyetçi Senatör Josh Hawley ve Demokrat Senatör Chris Van Hollen, OpenAI'dan yapay zeka modellerinin güvenliği hakkında bilgi talep etti. Afet Yönetiminden Sorumlu İç Güvenlik Alt Komitesi Başkanı olan Hawley, OpenAI'ın yapay zeka sisteminin başka bir yapay zeka şirketine sızması nedeniyle bu şirket hakkında inceleme başlatıldığını açıkladı.
Senatör Hawley, OpenAI'ın Üst Yöneticisi (CEO) Sam Altman'a yazdığı mektupta, ABD halkının "Hugging Face" olayında ve yapay zeka modellerinin kontrolden çıktığı diğer durumlarda neler yaşandığını öğrenmeyi hak ettiğini belirtti. İncelemenin bu sorulara yanıt arayacağını ifade etti.
Van Hollen ise "Hugging Face" olayını örnek göstererek, Altman'a federal siber güvenlik kurumlarına OpenAI'ın modellerinin güvenliğini ve risklerini değerlendirmelerine olanak tanıyacak bilgilere derhal erişim izni vermesi için çağrıda bulundu.
OpenAI'dan Açıklama
OpenAI Sözcüsü Nate Evans, iki senatörün taleplerine ilişkin yaptığı açıklamada, "Hugging Face" olayının yapay zeka güvenliği açısından önemli bir dönüm noktası olduğunu ve giderek gelişen yapay zekanın taşıdığı riskler hakkında bir uyarı niteliği taşıdığını belirtti.
Evans, kapsamlı bir soruşturma yürüttüklerini ve güvenlik ile işbirliği uygulamalarını nasıl güçlendirebileceklerine dair detaylı bir rapor yayımladıklarını ifade etti.
OpenAI, 21 Temmuz'daki açıklamasında, siber güvenlik kabiliyetlerini ölçmeye yönelik dahili bir test sırasında kullanılan yapay zeka modellerinin "Hugging Face" altyapısında güvenlik ihlaline neden olduğunu duyurmuştu. 26 Ağustos'ta yayımlanan kapsamlı raporda, "Hugging Face"e yönelik siber güvenlik ihlalinin, insan yönlendirmesi olmadan güvenlik duvarlarını aşabilen ve koordine olan yapay zeka ajanlarının potansiyeline dair bir "uyarı atışı" olarak nitelendirildi.
ABD'li senatörler, yeni yapay zeka ürünlerinin "kontrolden çıkarak" oluşturduğu sızıntı ve güvenlik risklerinden endişe duyduklarını belirterek, OpenAI'dan bilgi talep etti.
