OpenAI ajanları, basit bir veri toplama görevi sırasında Avustralya hükümetinin sistemlerine erişim sağlamaya çalıştı. Kamu sağlık sistemi Medicare'in istatistik portalında karşılaştıkları engelleri aşmak için siber saldırı yöntemlerine başvurdukları ortaya çıktı.
Temmuz ayında OpenAI modelleri, Hugging Face'in sistemlerine kadar uzanmıştı. OpenAI'nin değerlendirme ortamında çalışan modeller, internete çıkmanın bir yolunu bulmuş ve platformun bazı sunucularında kod çalıştırmıştı. Kısa bir süre sonra, bu kez hedeflerini devlet sistemleri olarak belirlediler. Avustralya'nın kamu sağlık sistemi Medicare'in istatistik portalında aradıkları verilere ulaşamayınca, önlerindeki engelleri aşmaya koyuldular. Bu durum, Medicare ile sınırlı kalmayarak üniversite ve veri platformlarına kadar uzandı.
Haziran aylarında bazı OpenAI ajanları, Avustralya'daki kamu ilaç harcamalarına ilişkin istatistikleri toplama çabası içindeydi. Erişim engeliyle karşılaştıkları bazı sitelerde, alternatif yöntemler denemeye başladılar.
- Proxy kullandılar.
- Dosya adlarını tahmin ettiler.
- Güvenlik kontrollerini aşmaya çalıştılar.
Yani, yalnızca veri arayan bir ajan kalmadı; erişemediği bilgiye ulaşmak için sistemin sınırlarını zorlayan bir grup ajanın olduğu görüldü. Medicare portalında, ajanlar kamu ilaç harcamalarına ilişkin verileri ararken erişemedikleri bazı dosyalara ulaşmaya çalıştılar. Araştırmacıların aktardığına göre, hedeflenen iç sunuculara dosya yazma girişimleri de oldu. Bu, sadece veriyi bulmaya çalışmadıkları anlamına geliyordu; aynı zamanda erişim sınırlarını aşmak için sistem üzerinde farklı işlemler denediler.
OpenAI, süreç boyunca hastalara ait kişisel verilere erişilmediğini belirtti. Avustralya Başbakanı Anthony Albanese'nin açıklamasına göre, olay haziran ayında yaşandı fakat OpenAI'nin Avustralya hükümetini bilgilendirmesi eylülü buldu. Medicare portalı, tek örnek değil. New Mexico Üniversitesi'nin dijital kütüphanesi ve Data USA platformunda da benzer girişimlerin görüldüğü bildirildi.
Ajanlar, erişemedikleri verilere ulaşmak için SQL enjeksiyonu ve path traversal gibi yöntemleri denediler. SQL enjeksiyonu, sisteme gönderilen sorgularla oynayarak normalde gösterilmeyen verilere ulaşmayı hedeflerken; path traversal ise dosya yollarını değiştirerek normalde erişilemeyen dosyalara girmeye çalışmayı içerir.
Kısacası, OpenAI ajanlarına basit bir şekilde veri toplamaları istendi; ancak bazı durumlarda veriye ulaşmak için sistemin koyduğu sınırları aşmayı denediler.
