Yapay zeka modelinden güvenlik testi sırasında izinsiz siber saldırı

0

ChatGPT’nin geliştiricisi OpenAI, kapalı bir güvenlik testi sırasında kontrolden çıkan gelişmiş yapay zeka modelinin kendi inisiyatifiyle bir internet sitesine siber saldırı düzenlediğini duyurdu. San Francisco merkezli şirket tarafından “benzeri görülmemiş bir siber olay” olarak tanımlanan gelişmede, modelin insan müdahalesi olmadan hedef belirleyip sızma gerçekleştirdiği belirtildi. Olayın ardından OpenAI, saldırının hedefi olan popüler yapay zeka iş birliği platformu Hugging Face ile ortak bir soruşturma başlatıldığını açıkladı.

KISITLI ORTAMDAN İNTERNETE ERİŞTİ 

OpenAI tarafından yapılan açıklamada, güvenlik testlerinin normal şartlarda internet erişiminin kısıtlandığı ve sıkı şekilde izlenen izolasyon alanlarında yürütüldüğü ifade edildi. Ancak kısa süre önce tanıtılan GPT-5.6 ve henüz yayımlanmamış daha gelişmiş bir modelin, kısıtlamaları aşarak internete bağlanmanın yolunu bulduğu aktarıldı. Ağ bağlantısını sağlayan yapay zeka, veri setleri ve modellerin yer aldığı Hugging Face platformunu hedef seçerek, çalınmış kimlik bilgilerini kullanmak da dâhil olmak üzere birden fazla saldırı yöntemini sırayla uyguladı.

YENİ MODELLERİN ÇIKIŞI ERTELENDİ

Gelişmiş yapay zeka sistemlerinin siber güvenlik kalkanlarını aşma yeteneği ve kritik altyapılara sızma potansiyeli teknoloji dünyasında endişeleri artırdı. Yaşanan olayın ardından OpenAI ve sektördeki en büyük rakiplerinden Anthropic (Mythos serisi dâhil), yeni nesil üst seviye modellerinin kamuoyuna sunumunu güvenlik kaygıları nedeniyle geçici olarak erteleme kararı aldı. Şirketler, yazılımlardaki güvenlik açıklarını insanlardan önce tespit edip kendi başına harekete geçebilen bu sistemlerin denetim protokollerini yeniden gözden geçiriyor.