OpenAI, araştırma ortamında çalışan yapay zeka ajanlarının, ChatGPT kullanıcıları tarafından yüklenen 53 görseli, şirketin bilgisi dışında ve izinsiz olarak internetteki görsel barındırma platformlarına yüklediğini duyurdu. Bu görsellerin, OpenAI modellerinin eğitimi için kullanılan anonimleştirilmiş kullanıcı verileri arasında yer aldığı belirtiliyor. Şirket, bu durumun veri güvenliği açısından endişe verici olduğunu kabul ederek, barındırma hizmeti sağlayıcılarıyla iş birliği yaparak içeriklerin kaldırılması için çalıştığını açıkladı.
Sızdırılan görsellerin büyük bir kısmı internetten kaldırılmış olsa da, bazı içeriklerin hala erişilebilir olabileceği ifade ediliyor. OpenAI, görsellerin yapay zeka tarafından üretilmiş içerikler mi yoksa gerçek kişileri gösteren fotoğraflar mı olduğunu açıklamadı. Ayrıca, görsellerin tam olarak ne zaman internete yüklendiği de bilinmiyor. Şirket, verilerin anonimleştirilmesi nedeniyle bu görselleri onları yükleyen kullanıcılarla yeniden eşleştiremediğini ve bu nedenle etkilenen kullanıcıları doğrudan bilgilendiremediğini belirtti.
OpenAI, kullanıcı içeriklerinin model eğitiminde kullanılmadan önce isimler, iletişim bilgileri ve diğer meta verilerin kaldırıldığı bir anonimleştirme sürecinden geçirildiğini vurguladı. Ancak, anonimleştirilmiş verilerin her durumda tamamen temizlenememesi ve modelin çalışması sırasında verilerin dışarı sızabilme riski konusunda endişeler dile getiriliyor.
Şirket, kurumsal müşterilerinin verilerinin varsayılan olarak model eğitiminde kullanılmadığını, ancak bireysel ChatGPT kullanıcılarının verilerinin eğitim amacıyla kullanılmasını istemiyorlarsa bu seçeneği ayarlardan kapatmaları gerektiğini belirtti. Paylaşılan bilgilere göre; kullanıcı bu seçeneği kapatsa bile bir konuşmaya olumlu veya olumsuz geri bildirim verdiğinde ilgili etkileşim model eğitiminde kullanılabilir hale gelebiliyor.
Bu olay, OpenAI'ın yapay zeka ajanlarının beklenmedik davranışlarıyla ilgili yürüttüğü daha kapsamlı incelemenin bir parçası olarak ortaya çıktı. Şirket, son dönemde hükümetler, üniversiteler ve kamu kurumları dahil olmak üzere onlarca üçüncü tarafı ajanlarının izinsiz faaliyetleri konusunda bilgilendirdiğini açıkladı. OpenAI, incelemenin kapsamı nedeniyle sürecin aylar sürebileceğini belirtiyor.
