ABD ve Çin, bir yapay zeka sohbet botunun ürettiği hatalı veri (halüsinasyon) nedeniyle nükleer güçler arasında ciddi bir krizin eşiğinden döndü. Yapay zeka içeriği, ABD uçakları havalandırırken gerçek daha sonra ortaya çıktı.
ABD ve İran arasındaki gerilimin tırmandığı dönemde, Orta Doğu'da bulunan Çin menşeli bir kargo gemisinin yük manifestosunu inceleyen bir askeri analist, yapay zeka aracına başvurdu.
Yapay zekanın gemide nükleer silah bileşenleri taşındığı yönündeki hatalı çıkarımı, onaylanarak resmi bir istihbarat raporuna dönüştürüldü ve ABD ordusunda alarma yol açtı. Hazırlanan hatalı istihbarat üzerine ABD Özel Operasyonlar Komutanlığı Pasifik (SOCOM Pacific) birimince baskın planlandı; silahlı askeri personel hazırlık yaparken savaş uçakları havalandırıldı.
Operasyondan hemen önce raporu detaylandıran yetkililerin, analizin bir yapay zeka sohbet botu çıktısı olduğunu ve bilginin tamamen asılsız olduğunu tespit etmesiyle olası bir askeri çatışma son anda engellendi.
Gelişme, ABD ordusunda hızla yaygınlaşan yapay zeka kullanımındaki güvenlik ve doğrulama açıklarını bir kez daha gündeme taşıdı. Güvenlik uzmanları, resmi kurumlarda veri denetimi için ortak bir sistem bulunmamasının ve analistler üzerindeki hızlı rapor hazırlama baskısının benzer yapay zeka kaynaklı hataları ve sivil kayıp risklerini artırdığına dikkat çekiyor.
Savaş uçakları havalandı. ✈️😟
