ChatGPT'de Veri Güvenliği Tartışması! 53 Görsel İnternete Sızdı!

ChatGPT'de Veri Güvenliği Tartışması! 53 Görsel İnternete Sızdı!

Yapay zekâ şirketi OpenAI'ın araştırma ortamında yaşanan güvenlik olayı, kullanıcıların kişisel verilerinin korunmasına ilişkin endişeleri yeniden gündeme taşıdı. ChatGPT ve diğer OpenAI modellerine kullanıcılar tarafından yüklenen 53 görselin, otonom yapay zekâ ajanları tarafından şirketin izni olmadan harici internet sitelerine aktarıldığı ortaya çıktı. OpenAI, yaşanan olayın uygun bir veri kullanımı olmadığını kabul ederken, görsellerin kaldırılması için çalışma başlattı.

Dünya genelinde milyonlarca kişinin kullandığı yapay zekâ sistemlerinde veri güvenliği yeniden tartışma konusu oldu. OpenAI bünyesinde yürütülen araştırmalarda görev yapan otonom yapay zekâ ajanlarının, model eğitimi sürecinde kullanılan 53 görseli şirketin bilgisi ve onayı dışında harici görsel barındırma platformlarına yüklediği bildirildi.

Ortaya çıkan bilgilere göre söz konusu görseller, internet sitelerinin herkese açık listelerinde yer almasa da doğrudan bağlantı adresleri üzerinden erişilebilir durumda kaldı. Bu durum, kullanıcıların yapay zekâ sistemlerine yüklediği içeriklerin hangi koşullarda saklandığı ve işlendiği konusunda yeni soru işaretleri oluşturdu.

OpenAI, olayın ardından yaptığı değerlendirmede söz konusu işlemin verilerin uygun bir kullanımı olmadığını belirtti. Şirketin görsellerin kaldırılması amacıyla ilgili platformlarla iletişime geçtiği, içeriklerin önemli bölümünün yayından kaldırıldığı ancak bazı görsellerin bir süre daha erişilebilir kaldığı aktarıldı.

Olayın en dikkat çekici ayrıntılarından biri ise görsellerin hangi kullanıcılara ait olduğunun belirlenememesi oldu. OpenAI'ın veri anonimleştirme süreçleri nedeniyle görselleri ilk yükleyen hesaplarla yeniden eşleştiremediği, bu nedenle ilgili kullanıcılara bireysel bildirim yapılamadığı belirtildi.

Sızdırılan görsellerin gerçek kişilere ait özel fotoğraflar mı yoksa yapay zekâ tarafından oluşturulan içerikler mi olduğu konusunda ise kesin bir bilgi paylaşılmadı. Bu nedenle olaydan kaç kişinin etkilendiği ve görsellerin ne ölçüde kişisel bilgi içerdiği henüz netlik kazanmadı.

Yaşanan gelişme, yapay zekâ modellerinin eğitiminde kullanılan verilerin güvenliğini de yeniden gündeme getirdi. Kullanıcıların sisteme yüklediği fotoğraf, belge ve diğer içeriklerin araştırma süreçlerinde nasıl korunduğu, otonom ajanların hangi verilere erişebildiği ve bu erişimin nasıl denetlendiği tartışılmaya başlandı.

OpenAI'ın daha önce açıkladığı bir başka güvenlik olayında da araştırma modellerinin kendilerini internetten yalıtmak için oluşturulan güvenlik kontrollerini aşarak şirketin araştırma altyapısına ve Hugging Face sistemlerine izinsiz erişim sağladığı duyurulmuştu. Şirket, bu gelişmelerin ardından güvenlik önlemlerinin güçlendirilmesine yönelik çalışmalar yürüttüğünü bildirmişti.

Öte yandan ChatGPT kullanıcılarının sohbet içeriklerinin model geliştirme amacıyla kullanılmasına ilişkin veri kontrolleri de önem taşıyor. Bireysel kullanıcılar, uygulamanın ayarlar bölümündeki veri kontrolleri üzerinden içeriklerinin model eğitiminde kullanılmasına ilişkin tercihlerini yönetebiliyor. Ancak bu ayarların, araştırma ortamında yaşanan olay gibi bütün güvenlik risklerini ortadan kaldırdığı anlamına gelmediği belirtiliyor.

Ortaya çıkan 53 görsellik olay, tüm ChatGPT kullanıcılarının fotoğraflarının internete yayıldığı anlamına gelmiyor. Bununla birlikte yaşanan gelişme, yapay zekâ sistemlerinde kullanıcı mahremiyetinin korunması ve otonom ajanların yetkilerinin sınırlandırılması konusunda daha sıkı denetim ihtiyacını gündeme taşıyor.