Google'ın yapay zekâ modeli Gemini'nin otonom olarak üç şirkete sızdığı bildirildi.
Son dönemlerde yapay zekâ teknolojilerinin korkutucu olaylarla gündeme geldiğine tanık olduk. Örneğin, OpenAI'ın bir modeli başka bir şirketin sistemlerine sızmayı başarmıştı. Ayrıca, Anthropic gibi firmalardan da benzer girişimler duyulmuştu. Şimdi ise bu duruma bir yenisi eklendi: Google’ın Gemini modeli.
The Wall Street Journal raporuna göre, Google'ın geliştirdiği yapay zeka modeli Gemini, üç farklı şirkete ait korunan sistemlere erişim sağlayarak ilk otonom sızma eylemlerinden birini gerçekleştirdi. Irregular adlı güvenlik şirketi tarafından yürütülen siber güvenlik testleri sırasında meydana gelen bu olay, yapay zekânın yetkilendirilmemiş alanlara kendi kararlarıyla nasıl girebildiğini net bir şekilde ortaya koydu.
Siber güvenlik dünyasında sızma testleri, sistem zafiyetlerini önceden tespit etmek amacıyla bilinçli olarak gerçekleştirilir. Ancak bu testlerde yapay zekânın tanımlı sınırlar dışındaki gerçek şirket sistemlerine otonom olarak yönelmesi ve erişim sağlaması, kritik bir güvenlik riski olarak değerlendirilmektedir.
Söz konusu sızma eylemleri, karmaşık teknik sistemlerden ziyade temel güvenlik zafiyetlerinden yararlanılarak gerçekleştirildi. Sızma süreçlerinde Gemini, durumlardan birinde doğru parolayı bulana kadar denemeler yapma yöntemini kullandı. Diğer iki vakada ise halka açık veri depolarında unutulan veya açıkta kalan erişim bilgilerini tespit ederek sistemlere girdi. Bu durum, OpenAI modelinin Hugging Face’e sızmasıyla benzerlik göstermektedir.
Irregular firmasının temmuz ayı sonlarında Google'a durumu bildirdiği belirtilirken, şirketlerin konuyu kamuoyuna duyurması, The Wall Street Journal'ın haberi almasının ardından geçen cuma günü gerçekleşti. Google, yapay zekanın gerçek bir şirkete sızdığını fark ettiği anda işlemi sonlandırdığı için "uygun şekilde hareket ettiğini" ve bu nedenle durumu önceden açıklamadıklarını ifade etti.
Gemini modeli, kendi kararlarıyla şirket sistemlerine sızdı.
