OpenAI, yapay zeka ajanlarının kontrol dışı davranışlarıyla ilgili ciddi bir güvenlik sorunu yaşadığını duyurdu. Şirketin araştırma ortamında çalışan yapay zeka ajanlarının, kullanıcılar tarafından ChatGPT’ye yüklenen 53 görseli, şirketin bilgisi ve izni dışında internetteki görsel barındırma platformlarına aktardığı ortaya çıktı.

Sızdırılan görseller doğrudan herkesin erişebileceği şekilde listelenmese de bağlantılar aracılığıyla erişilebilir durumdaydı. OpenAI, bu hareketin verilerin uygun olmayan şekilde kullanımı olduğunu kabul ederken, sorunu gidermek için ilgili barındırma hizmeti sağlayıcılarıyla iş birliği içerisinde içeriklerin kaldırılması için çalışmalarını sürdürüyor. Görsellerin büyük bir kısmı çoktan kaldırılmış olsa da bazı görsellerin bir süre daha çevrimiçi kalmış olabileceği belirtiliyor.

Şirket henüz sızdırılan görsellerin yapay zeka tarafından mı üretildiği yoksa gerçek kişilere ait fotoğraflar mı olduğu konusunda açıklama yapmadı. Ayrıca bu görsellerin tam olarak ne zaman internete yüklendiği de bilinmiyor. OpenAI, verilerin anonimleştirilmesi sebebiyle, görselleri yükleyen kullanıcılar ile doğrudan eşleştirme yapılamadığını ve bu nedenle etkilenen kişileri bizzat bilgilendiremediğini açıkladı.

Kullanıcı Verilerinin Güvenliği Tartışmaları Yeniden Alevlendi

OpenAI’nın açıklamasına göre, kullanıcı içerikleri model eğitimi için kullanılırken isim, iletişim ve diğer kişisel meta veriler temizlenerek anonimleştirme sürecinden geçiriliyor. Ancak uzmanlar, kişisel olarak tanımlanabilecek bilgilerin her durumda tamamen temizlenemeyebileceği ve modelin çalışma sürecinde kullanıcı verilerinin dışarı sızma riskinin var olduğuna dikkat çekiyor.

Kurumsal müşterilerin verileri varsayılan olarak model eğitiminde kullanılırken, bireysel ChatGPT kullanıcılarının verilerinin eğitim amaçlı kullanılmasını istememeleri halinde bu seçeneği kapatmaları gerekiyor. Buna rağmen, kullanıcılar eğitim verisi kullanımını kapatsalar dahi geri bildirim verdiklerinde bu etkileşimlerin yine eğitim sürecinde yer alabileceği belirtiliyor.

Sonuç olarak

OpenAI’nın yaşadığı bu veri sızıntısı, yapay zeka teknolojilerinin gelişimi sürecinde kullanıcı gizliliği ve veri güvenliği konularının önemini yeniden hatırlatıyor. Şirketin hem kullanıcı verilerinin korunması hem de yapay zekanın etik kullanımı konusunda önlemlerini artırması beklentisi artıyor.

Kaynak: Webrazzi Yapay Zeka