Google’ın 30 Temmuz’da kullanıma sunduğu yeni Google Earth özelliği, kullanıcıların metin komutlarıyla gerçek uydu ve üç boyutlu görüntüler üzerinde yapay zekâ destekli sahneler oluşturmasına olanak tanıyordu. Ancak özelliğin kısa sürede yanlış bilgi üretmek amacıyla kullanılabileceğinin ortaya çıkması üzerine şirket, uygulamayı bir gün sonra geri çekme kararı aldı.
GERÇEK UYDU GÖRÜNTÜLERİ ÜZERİNDE YAPAY ZEKÂ DÜZENLEMESİ
Nano Banana 2 modeliyle geliştirilen araç, kullanıcıların Google Earth’ün internet sürümünde seçtikleri bir bölgeyi metin komutlarıyla yeniden tasarlamasına imkan veriyordu.
Sistem, oluşturulan içerikleri boş bir görsel üzerinde değil, gerçek uydu görüntüleri, hava fotoğrafları ve üç boyutlu harita verileri üzerine işliyordu. Böylece yapay zekâ tarafından oluşturulan yapı ve olaylar, gerçek coğrafi koordinatlar ve mevcut araziyle aynı görüntüde bir araya getiriliyordu.
Google, özelliğin tarihî alanların canlandırılması, şehir planlama çalışmaları, mimari projelerin görselleştirilmesi ve geleceğe yönelik tasarımlar için geliştirildiğini duyurmuştu.
SAHTE KRİZ VE SALDIRI GÖRÜNTÜLERİ TARTIŞMA YARATTI
Özelliğin kullanıma açılmasının ardından araştırmacılar, metin komutlarıyla gerçekte var olmayan olayların gerçek konumlar üzerine eklenebildiğini gösterdi.
Denemelerde Meksika sınırına sahte bir mülteci kampı, İran’da bulunmayan bir nükleer tesis, Amsterdam’da yaşanmamış bir trafik kazası ve Gazze’de bir hastanenin yanına bomba krateri oluşturuldu.
Uzmanlar, bu tür içeriklerin gerçek koordinatlar ve uydu görüntüleriyle birleşmesi nedeniyle ilk bakışta inandırıcı görünebildiğine dikkat çekti. Özellikle askeri hareketlilik, doğal afetler, enerji tesisleri ve kriz bölgelerine ilişkin yanlış bilgilerin yayılma riskinin arttığı değerlendirildi.
GOOGLE ÖZELLİĞİ HIZLA GERİ ÇEKTİ
Google, özelliğin kullanıma sunulmasından bir gün sonra yaptığı güncellemeyle sistemi geçici olarak devre dışı bıraktığını açıkladı.
Şirket, coğrafi veri uzmanlarının aracı çeşitli amaçlarla kullandığını ancak politikalara aykırı görülen yapay zekâ üretimi görüntülerin sosyal medyada paylaşılmaya başlanması üzerine ek güvenlik önlemleri hazırlanana kadar hizmeti durdurma kararı aldığını bildirdi.
Özelliğin ne zaman yeniden kullanıma açılacağına veya hangi güvenlik sınırlamalarının uygulanacağına ilişkin ise henüz bir takvim paylaşılmadı.
DİJİTAL FİLİGRAN TARTIŞMALARI SONLANDIRMADI
Google, oluşturulan her görsele yapay zekâ ürünü olduğunu belirten SynthID dijital filigranının eklendiğini ve içeriklerin yalnızca görüntüyü oluşturan kullanıcının çalışma alanında yer aldığını açıkladı.
Buna karşın ekran görüntüsü alınması veya içeriklerin sosyal medya platformlarında paylaşılmasıyla bu görsellerin bağlamından koparak yayılabildiği belirtildi.
Uzmanlara göre dijital filigran bulunması tek başına yeterli olmuyor. Çünkü sahte içerikler sosyal medyada hızla yayılırken doğrulama süreçleri çoğu zaman daha uzun sürüyor.
HARİTALARA DUYULAN GÜVEN YENİDEN GÜNDEMDE
Google Earth, yalnızca bireysel kullanıcılar tarafından değil, gazeteciler, açık kaynak istihbaratı araştırmacıları, afet ekipleri, şehir plancıları ve güvenlik uzmanları tarafından da doğrulama aracı olarak kullanılıyor.
Uzmanlar, üretken yapay zekânın doğrudan güvenilir uydu görüntüleriyle entegre edilmesinin, gerçek görüntüler ile yapay olarak oluşturulan içerikler arasındaki sınırı belirsizleştirebileceğini ifade ediyor.
Bu durumun yalnızca sahte görüntülerin yayılmasına değil, gerçek saldırı, afet veya çevresel felaket görüntülerinin de “yapay zekâ ürünü olabilir” gerekçesiyle sorgulanmasına yol açabileceği değerlendirmesi yapılıyor.
