Washington: Olası İran Saldırısı Bir Öncekinden Daha Ölümcül Olabilir
ChatGPT’de Güvenlik Açığı Tespit Edildi: Kullanıcı Verileri Tehlikede mi?
Ünlü güvenlik araştırmacısı Johann Rehberger, ChatGPT’de saldırganların kullanıcı ayarlarına zararlı bilgiler yerleştirebileceği bir açık keşfetti. OpenAI, bu sorunu hızla ele alarak güvenlik açığını kapattı, ancak potansiyel riskler tartışma konusu oldu.
Shiftdelete.net’in haberine göre; Rehberger, araştırmacıların sıklıkla yaptığı gibi, bu açığı daha da derinlemesine inceledi ve bir kavram kanıtı (PoC) hazırladı.
Bu PoC, güvenlik açığından yararlanarak kullanıcının tüm girdilerini kalıcı bir şekilde dışarıya sızdırabildiğini gösterdi. Bunun üzerine OpenAI mühendisleri durumu ciddiye aldı ve bu ayın başlarında kısmi bir düzeltme yayımladı.
OpenAI, Şubat ayında test etmeye başladığı uzun vadeli hafıza özelliğini Eylül ayında genişletti. Bu özellik, ChatGPT’nin kullanıcının önceki konuşmalarını hatırlamasına ve her yeni sohbette bu bilgileri kullanmasına olanak tanıyordu. Böylece kullanıcının yaşı, inançları veya diğer kişisel bilgileri her seferinde yeniden girmesine gerek kalmıyordu.
Ancak bu özellik, saldırganlar tarafından kötüye kullanılabildiği keşfedildi. Rehberger, yapay zeka sistemlerinin güvenilmeyen içeriklerden (örneğin e-postalar, blog yazıları veya belgeler) gelen talimatları takip etmesini sağlayan dolaylı prompt enjeksiyonu adı verilen bir saldırı yöntemini kullanarak ChatGPT’nin hatıralarına sahte bilgiler ekleyebileceğini keşfetti.
Bu sayede, ChatGPT’ye bir kullanıcının 102 yaşında olduğunu, Matrix’te yaşadığını ve dünyanın düz olduğunu ‘öğretmek’ mümkün olabiliyordu. Bu tür sahte bilgiler, Google Drive veya Microsoft OneDrive gibi bulut servislerine dosya yüklenerek, hatta bir internet sitesi üzerinden görüntü eklenerek yerleştirilebiliyordu.
OpenAI, bu açığı kapatmak için bir düzeltme yayımladı ancak uzmanlara göre halen yapay zekanın uzun vadeli hafızasına yanlış bilgiler eklenebilmesi mümkün. Bu sebeple, kullanıcıların yeni bir hafıza eklendiğini gösteren uyarılara dikkat etmesi ve hafıza ayarlarını düzenli olarak kontrol etmesi öneriliyor.
Kaynak: FLASH HABER TV
