Nvidia, yapay zeka ajanlarının güvenliğini artırmak amacıyla Open Agent Safety Platformunu tanıttı. Bu platform, OpenShell adlı açık kaynaklı yazılım ve Sentry adlı donanım tabanlı izleme sistemini bir araya getiriyor. OpenShell, ajanların hareket sınırlarını belirlerken, Sentry, şüpheli aktiviteleri milisaniyeler içinde tespit edip karantinaya alabiliyor.
Bu güvenlik platformu, OpenAI ve Anthropic gibi şirketlerin yapay zeka ajanlarının kontrolden çıkmasıyla ilgili yaşadığı güvenlik ihlallerine yanıt olarak geliştirildi. Nvidia CEO'su Jensen Huang, yapay zeka güvenliğinin mühendislik taktikleriyle aşılması gereken bir problem olduğunu belirterek, bu platformun sektördeki ilerlemeyi yavaşlatmadan güvenliği sağlamayı hedeflediğini ifade etti.
Open Agent Safety Platformu, Microsoft, Anthropic, Oracle, Perplexity, Accenture ve SpaceX gibi 100'ün üzerinde organizasyon tarafından benimsenmiştir. Bu platform, yapay zeka güvenliğini artırarak endüstrinin daha güvenilir bir şekilde gelişmesine katkı sağlamayı amaçlamaktadır.
