Şirketin Claude adlı yapay zeka modelinin, Rusya bağlantılı bir siber casusluk kampanyasında ve İranlı bir propaganda kurumu tarafından kullanıldığı, Anthropic'in son tehdit istihbaratı raporunda belirtildi.
Son sekiz ayda tespit edilen endişe verici vakalar, sahte flört uygulamaları ve otel Wi-Fi dolandırıcılıklarının yanı sıra, muhalifleri belirlemek amacıyla kurulan gözetim sistemlerine kadar uzandı.
Şirket, hizmetlerinin kötü niyetli amaçlarla kullanılmasını ifşa etme sorumluluğuna sahip olduğuna inandığı için son tehdit istihbaratı raporunu perşembe günü yayımladı.
Raporda, devlet destekli olduğundan şüphelenilen gruplar, suçlular, casus yazılım satıcıları, devlet propaganda kurumları ve siyasi motivasyonlu bireylerin teknolojiyi nasıl kötüye kullandığı sıralandı.
Claude Haiku, Sonnet ve Opus modellerinin kötü niyetli kullanımının Aralık 2025 ile Ağustos 2026 arasında engellendiği belirtildi. Modelin silah gelişimini destekleyebilecek şekillerde kullanılmasının yanı sıra, bilim insanlarının yapay zekayı biyolojik silah gelişimini destekleyecek biçimlerde kullanmasının da engellendiği ifade edildi.
Raporda, aktörlerin modelleri biyolojik silah gelişimini destekleyebilecek şekillerde kullandığı beş vaka incelemesine dikkat çekildi. Biyolojik kötü niyetli kullanımın sınır yapay zeka modellerinin en ciddi risklerinden biri olduğu vurgulandı.
Ayrıca, Claude'un ateşli silahlar, füzeler, silahlı dronlar, bombalar ve diğer mühimmatların yanı sıra bunları çalıştıran hedefleme ve kontrol sistemleri için yazılım geliştirmek üzere kullanıldığı altı vaka kaydedildi. Anthropic, yapay zeka modelinin biyolojik ve konvansiyonel silah geliştirilmesini destekleyebilecek kötü niyetli faaliyetler için kullanılma girişimlerini tespit ettiğini ve engellediğini açıkladı.
Tespit edilen vakalar arasında biyolojik ve konvansiyonel silah tehlikesi önemli bir yer tutuyor.
