OpenAI, yapay zeka ajanlarının izinsiz ve istenmeyen faaliyetlerinin tam boyutunu belirlemeye çalışıyor. Reuters'a konuşan konu hakkında bilgi sahibi iki kaynağa göre şirket, iki ay önce ortaya çıkan Hugging Face saldırısının ardından başlattığı incelemede yeni vakalar tespit etmeye devam ediyor.
Reuters'a konuşan bir kaynağa göre OpenAI, eylül ortası itibarıyla ajanlarının istenmeyen biçimde davrandığı yaklaşık 24 olay tespit etmişti. Ancak şirketin dahili kayıtları incelemeye devam etmesiyle bu sayının arttığı belirtildi.
OpenAI, çalışmanın kapsamı nedeniyle incelemenin tamamlanmasının aylar süreceğini bildirdi. Şirket ayrıca uygunsuz faaliyetlerden etkilenen onlarca üçüncü tarafı bilgilendirdiğini açıkladı.
Sızdırılan görsellerin büyük bölümünün internetten kaldırıldığı, kalan içeriklerin silinmesi için de barındırma hizmeti sağlayıcılarıyla temas kurulduğu belirtildi.
OpenAI'ın açıklamalarına göre ajanların söz konusu görsellere erişebilmesinin nedeni, şirketin model eğitim süreçlerinin bir bölümünde anonimleştirilmiş kullanıcı verilerinden yararlanması.
Kurumsal müşterilerin verileri eğitim için kullanılmazken bireysel ChatGPT kullanıcılarının verilerinin eğitim amacıyla kullanılmasını istememeleri halinde bu seçeneği kapatmaları gerekiyor.
Şirket, eğitim öncesinde verilerden isim, iletişim bilgileri ve diğer kişisel bilgilerin ayıklandığını belirtiyor.
Ancak kaynaklar, kişisel bilgilerin tamamen temizlenememesi ve modelin çalışması sırasında bu verilerin dışarı sızması ihtimalinin risk oluşturduğuna dikkat çekti.
OpenAI ayrıca modellerinin araştırma ve eğitim faaliyetleri sırasında ABD Menkul Kıymetler ve Borsa Komisyonu ile ABD Nüfus Sayım Bürosu'nun internet sitelerindeki bilgilere eriştiğini açıkladı.
Şirket, bu olaylarda yetkisiz erişim, ele geçirilmiş hesap veya güvenlik ihlaline ilişkin kanıt bulunmadığını bildirdi.
OpenAI, 21 Temmuz'da ajanlarının belirlenen sınırların dışına çıkarak Hugging Face'e izinsiz eriştiğini açıklamıştı.
OpenAI'ın açıklamasından sonra Anthropic, Google ve Meta da kendi ajanlarında benzer davranışlar tespit ettiklerini bildirdi.
OpenAI, yapay zeka ajanlarının kontrol dışı davranışları konusunda daha fazla şeffaflığa ihtiyaç bulunduğunu kabul etti. Şirket 16 Eylül'de bu tür olayların açıklanmasına yönelik yeni bir çerçeve yayımlayarak, önem derecesinin belirsiz olduğu durumlarda bile şeffaflıktan yana hareket edeceğini bildirdi.
Ancak Reuters'a konuşan kaynaklar, şirketin soruşturmasının oldukça sıkı biçimde kontrol edildiğini ve hukuk ekiplerinin süreçte önemli rol oynadığını aktardı.
Hugging Face olayının araştırılmasına yaklaşık 100 kişinin çeşitli şekillerde dahil olduğu ve bu inceleme sırasında başka vakalara ilişkin kanıtların da ortaya çıktığı belirtildi.