Çinli J-36 mühendisleri, yapay zekanın yanıltıcı radar, silah ve savaş verileri üretebileceği konusunda uyarıda bulundu. Yanlış bilgiler, uçak tasarımı ve askeri operasyonlar üzerinde olumsuz etkiler yaratabilir.
Uyarı, J-20 savaş uçağının arkasındaki kuruluş olan ve yeni nesil J-36 programında da görev alan AVIC Chengdu Aircraft Research and Design Institute mühendislerinden geldi. Konuya ilişkin değerlendirmeler, Çin’in devlete ait savunma şirketi Norinco tarafından işletilen bir dergide 20 Haziran’da yayımlandı.
Savaş uçağı geliştirilirken düşmanın radar kapsama alanı ve çalışma frekansları, füze angajman bölgeleri, elektronik harp kabiliyetleri, erken ihbar uçaklarının konumları ve kara konuşlu hava savunmalarının analiz edilmesi gerekiyor. Bu veriler, uçağın gizlilik özellikleri, sensörleri, manevra kabiliyeti ve muharebe menzili gibi temel tasarım kararlarını şekillendiriyor.
Chengdu uçak tasarım kuruluşuyla bağlantılı mühendis Zhang Xianzhe, LLM'lerin bu süreçte son derece inandırıcı görünen ancak gerçekte var olmayan bilgiler üretebileceğini belirtti. Model, bir savaş uçağının boyutlarını, taşıma kapasitesini, silah kabiliyetlerini, azami hızını veya muharebe yarıçapını uydurabileceği gibi radar tarama mesafeleri ve frekans bantları hakkında da yanlış veriler oluşturabiliyor.
Bu tür hatalar, yapay zeka tarafından son derece gerçekçi bir şekilde işlendiği için fark edilmeleri zor olabiliyor. Yapay zeka çıktısı teknik açıdan tutarlı göründüğünde, analistler veya mühendisler yanlış bilgiyi gerçek istihbarat verisi olarak değerlendirebiliyor.
Risk, yalnızca yanlış askeri verilerle sınırlı kalmıyor. Zhang'a göre yapay zeka, uygun dayanıklılığa sahip olmayan malzemeler önerebilir, aerodinamik açıdan mümkün olmayan manevralar tasarlayabilir veya uçağın operasyonel menzilini aşan görev planları hazırlayabilir.
Askeri istihbaratta ise gerçekte bulunmayan üsler, birlikler ve birlik hareketleri oluşturulması mümkün. Bu çıktılar simülasyonlara aktarılırsa, karşı tarafın askeri kapasitesine ilişkin tamamen hatalı değerlendirmeler ortaya çıkabilir.
İnsan analistlerin son kararı vermesi riski azaltabiliyor ancak yapay zekanın ürettiği bilgi ve önerilerin hacmi arttıkça her bir çıktının ayrıntılı biçimde doğrulanması giderek zorlaşıyor. Zhang, yapay zekanın halüsinasyon olarak adlandırılan uydurma çıktılar üretme riskini azaltmak için çeşitli önerilerde bulunuyor.
Savunma kuruluşlarının modelleri güvenilir askeri verilerle sınırlandırması ve bilgilerin doğrulanabileceği aranabilir bilgi tabanları oluşturması bunların başında geliyor. Daha açık ve kesin komutların kullanılması da modelin belirsiz yorumlar üretme ihtimalini azaltabilir. Zhang ayrıca yapay zekanın ulaştığı sonuçların, birbirlerinin çıktılarındaki hataları sorgulayan farklı yapay zeka sistemleriyle çapraz kontrol edilmesini öneriyor.
🛩️⚠️ Yanlış veri tasarımı değiştirebilir.
