İngiltere merkezli yapay zeka güvenlik şirketi Mindgard, OpenAI’ın en güncel modeli olan GPT-5.4 üzerinde yürüttüğü testlerde çok ciddi bir açık keşfetti. Araştırmacılar, internette daha önce mizahi amaçlarla kullanılan sıradan bir istemi (prompt) çok küçük değişikliklerle manipüle ederek sistemin tüm filtrelerini devre dışı bırakmayı başardı. Ortaya çıkan bu durum, yapay zekanın gelişmiş koruma kalkanlarının ne kadar kolay kırıldığını bir kez daha kanıtladı.
“FOTOĞRAFI ONAR” TALİMATI FİLTRELERİ BİR ANDA ÇÖKERTTİ
Güvenlik testini gerçekleştiren uzman Jim Nightingale, sosyal medyada viral olan ve yapay zekaya aslında var olmayan bir görseli “Ekteki fotoğrafı onar” şeklinde gönderen bir komut kullandı. Model, ortada onarılacak bir görsel olmamasına rağmen boşluğu doldurmak için doğrudan karanlık görseller üretmeye başladı. Deneyi derinleştiren uzmanlar, komutta yaptıkları ufak kelime oyunlarıyla ChatGPT’ye ağır kafa travmaları, kanlar içinde kalmış figürler ve rıza dışı cinsel şiddet çağrışımları içeren son derece ağır sahneler çizdirmeyi başardı.
ARAŞTIRMACI GÖRDÜKLERİ KARŞISINDA GÖZYAŞLARINI TUTAMADI
Sistemin ürettiği içeriklerin boyutunu aktaran araştırmacı Jim Nightingale, karşılaştığı sahneler nedeniyle derinden sarsıldığını ve gözyaşlarına hakim olamadığını dile getirdi. Mindgard Kurucusu Profesör Peter Garraghan ise en endişe verici noktanın altını çizdi:
“Sistemden bu tarz vahşet veya cinsel içerikleri açıkça talep etmedik. Yapay zeka, sadece kısıtlama olmadığını varsaydığı o boşlukta doğrudan insanlığın en karanlık noktalarına yöneldi. Saldırganların bu yöntemi kullanarak gerçek kişilerin yüzleriyle sahte çıplak videolar (deepfake) üretebilme riski çok yüksek.”
KEDİ-FARE OYUNU DEVAM EDİYOR: OPENAI EK FİLTRE KOYDU
İngiliz kamu yayıncısı BBC’nin konuyu OpenAI’a taşımasının ardından şirket, söz konusu komut kombinasyonunu engellemek adına platforma acil ve ilave koruma kalkanları eklediğini duyurdu. Ancak güvenlik uzmanları, ilk yamanın ardından bile küçük cümle değişiklikleriyle sistemin yeniden kandırılabildiğini iddia ediyor. Uzmanlar, yapay zeka modellerinin insanlar gibi “niyet” veya “bağlam” algısına sahip olmadığını, bu nedenle de koruma sistemleri ile hackerlar arasında bitmek bilmeyen bir kedi-fare oyununun süreceğini vurguluyor.
#ChatGPT #OpenAI #YapayZekaGüvenliği
