Teknoloji devi Google, kısa süre önce Google Earth bünyesinde kullanıma sunduğu yapay zekâ tabanlı görsel üretim aracını, platformun güvenilirliğini tehdit ettiği gerekçesiyle askıya aldı. Nano Banana 2 adlı modelle çalışan ve kullanıcıların uydu verileri üzerinde saniyeler içinde yeni sahneler tasarlamasına imkân tanıyan bu özellik, kamuoyunda ciddi tartışmalara yol açtı.
Sistemin yayına girmesinin ardından bağımsız araştırmacılar, aracın son derece basit komutlarla gerçeğinden ayırt edilmesi güç sahte uydu görüntüleri oluşturabildiğini ortaya koydu. Yapılan testlerde; İran'da hayali nükleer tesisler, çatışma bölgelerinde bomba kraterleri veya sınır bölgelerinde kurgusal mülteci kampları gibi manipülatif içeriklerin kolaylıkla üretilebildiği gözlemlendi. Dijital araştırmacı Henk van Ess, Google'ın yirmi yıl boyunca inşa ettiği doğrulama referansının, tek bir tuşla manipüle edilebilir hale geldiğini vurguladı.
Google Earth, uzun yıllardır gazeteciler, akademisyenler ve açık kaynak istihbaratı (OSINT) uzmanları tarafından dünyadaki olayları doğrulamak için temel bir referans noktası olarak kullanılıyor. Uzmanlar, bu tür yapay zekâ destekli müdahalelerin, uydu görüntülerine duyulan genel güveni aşındırabileceği ve dezenformasyonun hızla yayılmasına zemin hazırlayabileceği konusunda uyarıda bulundu. Özellikle GeoConfirmed gibi doğrulama ağları, askeri tesislerin veya okul gibi yapıların yanlış etiketlenerek bilgi kirliliği yaratılmasından endişe duyduklarını belirterek özelliğin kaldırılması çağrısında bulunmuştu.
Şirket yetkilileri, özelliğin coğrafi bilgi uzmanları için faydalı amaçlarla tasarlandığını savunsa da, politikaları ihlal eden görüntülerin paylaşılması üzerine geri adım attı. Google sözcüsü, platformun dünyanın güvenilir bir görünümü olarak kabul edildiğini hatırlatarak, daha güçlü güvenlik önlemleri geliştirilene kadar aracın kullanımdan kaldırıldığını ifade etti. Daha önce Pentagon'da patlama yaşandığına dair sahte bir görselin finans piyasalarında yarattığı kısa süreli dalgalanma, yapay zekâ kaynaklı dezenformasyonun ekonomik ve sosyal etkilerinin ne denli yıkıcı olabileceğini göstermişti. Google'ın, içerik filtrelerini güçlendirdikten sonra bu aracı yeniden kullanıma sunup sunmayacağı ise belirsizliğini koruyor.
