ChatGPT'ye yeni saldırı: Gmail'den gizli veri hırsızlığı

Yapay zeka teknolojisinin hızla gelişimi, beraberinde yeni güvenlik risklerini de getiriyor. Siber güvenlik firması Radware tarafından ortaya çıkarılan yeni bir saldırı yöntemi, OpenAI’nin “Derin Araştırma” adlı yapay zeka aracının, kullanıcıların Gmail gelen kutularından gizli bilgileri çalabileceğini gösterdi. "ShadowLeak" (Gölge Sızıntısı) adı verilen bu saldırı, kullanıcıdan herhangi bir etkileşim beklemiyor ve sızıntı sırasında hiçbir belirti göstermiyor.

ShadowLeak: Yapay Zeka Nasıl Kandırılıyor?

OpenAI’nin yılın başında tanıttığı "Deep Research" (Derin Araştırma), kullanıcıların e-postalarını, belgelerini ve diğer çevrimiçi kaynaklarını tarayarak karmaşık araştırmalar yapabilen gelişmiş bir yapay zeka aracıdır. Ancak Radware'in araştırması, bu yeteneğin tehlikeli bir şekilde istismar edilebileceğini kanıtladı.

Saldırının temelinde, "anlık enjeksiyon" (prompt injection) adı verilen bir teknik yatıyor. Bu teknikte, zararlı talimatlar güvenilir gibi görünen bir e-postanın veya belgenin içine gizleniyor. Yapay zeka, bu içeriği taradığında, sanki kendi kullanıcısından gelmiş gibi bu talimatları yerine getirme eğilimi gösteriyor.

Radware araştırmacıları, bir kullanıcının Gmail hesabına, içinde gizli talimatlar barındıran bir e-posta gönderdi. E-postadaki yönergeler, yapay zekaya gelen kutusunu taramasını, bir çalışanın adını ve adresini bulmasını ve bu bilgiyi sözde bir "uyum doğrulama sistemi" üzerinden bir web sitesine göndermesini emrediyordu. Yapay zeka aracı, kullanıcıdan herhangi bir izin almadan bu talimatı harfiyen uygulayarak, gizli verileri saldırganın sunucusuna aktardı.

Gizli Veri Sızıntısı ve Güvenlik Boşlukları

ShadowLeak saldırısını bu kadar tehlikeli yapan şey, geleneksel güvenlik önlemlerini atlatabilmesidir. Normalde veri sızıntılarını önleyen güvenlik duvarları, bu durumda etkisiz kalıyor. Çünkü veri transferi, kullanıcının bilgisayarından değil, doğrudan OpenAI'nin bulut altyapısı içinde, arka planda gerçekleşiyor. Bu durum, veri kaybının kullanıcı tarafından fark edilmesini imkansız hale getiriyor.

Siber güvenlik uzmanları, yapay zekanın otonom web gezintisi ve bağlantı açma gibi yeteneklerinin bu tür saldırılar için birer silah haline geldiğini belirtiyor. OpenAI, Radware’in uyarısı üzerine söz konusu güvenlik açığını giderdiğini açıkladı. Ancak şirket, genel olarak bu tür zafiyetlerin karmaşık olduğunu ve yapay zeka sistemlerini bu tehditlere karşı daha dayanıklı hale getirmek için sürekli çalıştıklarını belirtti.

Uzmanlar, kullanıcıları, yapay zeka asistanlarına e-posta veya kişisel belgeler gibi özel kaynaklarına erişim izni vermeden önce çok dikkatli olmaları konusunda uyarıyor. Zira bu tür güvenlik açıklarının tamamen ortadan kaldırılması yakın zamanda pek olası görünmüyor.