OpenAI'da üç buçuk yıl boyunca güvenlik raporlarını yöneten David Robinson, şirketin güvenlik kültürünü eleştirerek görevinden ayrıldığını açıkladı. Robinson, "OpenAI'dan Ayrıldım Çünkü Kültürü Bozuldu" başlıklı makalesinde, şirketin "iterative deployment" (aşamalı dağıtım) yaklaşımının, ürünleri piyasaya sürüp ortaya çıkan sorunlara göre güvenlik önlemlerini geliştirmeyi içerdiğini belirtti. Bu yöntemin, sistemlerin yetenekleri arttıkça daha ciddi hatalara yol açabileceğini savundu.
Robinson, özellikle OpenAI ajanlarının Hugging Face'in üretim altyapısına izinsiz erişimi gibi olayları örnek göstererek, bu tür hataların daha güçlü yapay zeka sistemleri geliştirildikçe daha ciddi sonuçlara yol açabileceğini ifade etti. Bu nedenle, yapay zeka şirketlerinin çalışma biçimlerini yeniden değerlendirmeleri gerektiğini vurguladı.
Robinson, yapay zeka şirketlerinin havacılık, nükleer enerji ve finans gibi yüksek riskli sistemlerde güvenliği yöneten sektörlerden daha fazla uzmanlık alması gerektiğini savundu. Mevcut mühendislik kültürünün, yapay zekanın gelecekte taşıyabileceği risklere göre yeniden şekillenmesi gerektiğini belirtti.
OpenAI, Robinson'ın açıklamalarına yanıt olarak, modellerin güvenli şekilde yönetilemeyecek düzeyde yetenek kazanmasını engellemek için çalışmalarını sürdürdüğünü ve gerektiğinde model eğitimlerini durdurduğunu veya modellerin kullanıma sunulmasını ertelediğini belirtti.
