Google, Google Earth’e kısa süreliğine eklediği yeni yapay zeka özelliğini gelen tepkilerin ardından geri çekti. Özellik, gerçek uydu görüntülerini Nano Banana 2 adlı yapay zeka modeliyle değiştirmeye izin veriyordu. Ancak kullanıcılar, bunun yanlış bilgi üretimini çok kolay hale getirebileceğini gösteren örnekler paylaşınca şirket geri adım attı.
Bugün birçok yapay zeka aracı, metin komutlarıyla gerçek şehirleri veya binaları değiştirilmiş şekilde gösterebiliyor. Google Earth’e eklenen bu özellik ise doğrudan gerçek uydu görüntülerini düzenlemeyi mümkün kıldığı için farklı bir tartışma başlattı.
Gerçek uydu görüntüleri değiştirilebiliyordu
Google Earth Ürün Yöneticisi Bryan Horowitz, 30 Temmuz tarihli blog yazısında kullanıcıların ilk kez Google Earth’ün uydu, hava ve 3D görüntülerini Nano Banana ile birleştirerek gerçek dünyaya dayalı özel görseller oluşturabileceğini duyurdu.
Bu açıklama özellikle doğrulama uzmanlarının dikkatini çekti. Çünkü gazeteciler ve araştırmacılar, fotoğraf ve videoların doğruluğunu kontrol etmek için uzun süredir Google Earth’ten yararlanıyor. Yeni araç ise gerçek görüntülerin üzerine sahte olaylar eklemeyi oldukça kolaylaştırıyordu.
Bağımsız araştırma kuruluşu Bellingcat’in kurucusu Eliot Higgins de Bluesky paylaşımında, Google Earth’ün doğrulama amacıyla kullanılan bir platform olmasına rağmen uydu görüntülerini yapay zekayla değiştirme özelliği eklediğine dikkat çekti.
Higgins daha sonra yaptığı paylaşımda, Beyaz Saray’ın yanında dev bir Donald Trump heykeli gösteren yapay zekayla hazırlanmış görüntüyü paylaşarak özelliğin kötüye kullanılabileceğini alaycı bir dille gösterdi.
Google bir gün içinde geri adım attı
Özelliğin duyurulmasının üzerinden yaklaşık bir gün geçtikten sonra Google, X platformunda yaptığı açıklamayla sistemi geri çektiğini duyurdu. Kısa süre sonra kullanıcılar da Google Earth üzerinden bu özelliğe erişemediklerini doğruladı.
Google ilk tanıtımında bu aracın tamamlanmamış emlak projelerini görselleştirmek veya eğitim amacıyla Pompeii antik kentini geçmişteki görünümüne dönüştürmek gibi kullanım alanları sunacağını söylemişti. Ancak araştırmacılar, daha çok kötüye kullanım ihtimali üzerinde durdu.
Bağımsız araştırmacı Henk van Ess, tek bir cümle yazarak Meksika sınırına mülteci kampı eklediğini, İran’a nükleer tesis yerleştirdiğini ve Amsterdam’da ölümcül trafik kazası oluşturduğunu söyledi. Tüm bu sahnelerin gerçek Google Earth uydu görüntüleri üzerine üretildiğini belirten Ess, bu durumun ciddi risk oluşturduğunu ifade etti.
Yanlış bilgi üretimi çok daha kolay hale gelebilirdi
Van Ess, daha önce sosyal medyada yayılan sahte bir görüntüyü de örnek gösterdi. O olayda bir kişi, Bahreyn’deki ABD Beşinci Filosu karargâhına ait Google Earth görüntüsünü Gemini ile düzenleyerek İran’ın düzenlediği sahte bir insansız hava aracı saldırısını gösteren görsel hazırlamıştı.
Araştırmacıya göre bu işlem daha önce birkaç farklı aşama gerektirirken, Google Earth’e entegre edilen yeni araç sayesinde birkaç saniye içinde tamamlanabilecek hale geldi.
Google dijital filigranı işaret etti
Google, gelen eleştirilerin ardından üretilen tüm görsellerde SynthID adlı dijital filigran sisteminin bulunduğunu açıkladı. Şirkete göre kullanıcılar Gemini veya Google Lens üzerinden bir görselin yapay zekayla oluşturulup oluşturulmadığını kontrol edebiliyor.
Google ayrıca zararlı içeriklerin oluşturulmasını engelleyen sistemler kullandığını ve bu korumaları sürekli geliştirdiğini belirtti.
Yapılan testlerde SynthID’nin birçok düzenlemeye rağmen çalışmaya devam ettiği görüldü. Ancak sistemin günlük kontrol sayısının sınırlı olması dikkat çekti.
Google Earth’ten üretilen bazı görseller Gemini üzerinden kontrol edildiğinde, sistem bu görüntülerin tamamının veya bir kısmının Google’ın yapay zeka araçlarıyla oluşturulduğunu ya da düzenlendiğini tespit edebildi.
Dijital filigran her durumda yeterli olmuyor
Van Ess ise bu korumanın tek başına yeterli olmadığını savundu. Araştırmacı, Gazze’de bombalanmış hastane gibi sahneler oluşturabildiğini ve zararlı içerikleri engelleyen sistemlerin bunu durduramadığını söyledi.
Ayrıca sahte görüntülerin çoğu zaman ekran kaydı, ekran görüntüsü veya telefon kamerasıyla yeniden çekilmiş dosyalar olarak yayıldığını belirtti. Bu durumda dijital filigranın kaybolabileceğini ifade etti.
Nitekim yapılan denemelerde, yapay zekayla oluşturulan görüntünün telefon kamerasıyla yeniden fotoğrafı çekildiğinde SynthID doğrulaması çalışmadı.
Google Earth’e duyulan güven tartışma konusu oldu
Van Ess’e göre Google Earth’e böyle bir özellik eklenmesi, platformun güvenilir bir referans kaynağı olarak algılanmasını zedeleyebilir. Ayrıca gerçek uydu görüntülerini reddetmek isteyen kişi veya kurumlar için “Bu görüntü yapay zekayla üretildi” savunmasını daha kolay hale getirebilir.
Araştırmacı, uydu görüntülerini doğrularken tek bir kaynağa güvenilmemesi gerektiğini söyledi. Bunun yerine farklı kaynaklardan doğrulama yapılmasını ve Copernicus Sentinel-2 gibi sürekli güncellenen uydu sistemlerinin de kullanılmasını önerdi.
Google özelliği kaldırarak kısa vadede tartışmayı durdurmuş olsa da şirketin açıklaması bu kararın kalıcı olmayabileceğini gösterdi. Google, özelliğin coğrafi veri uzmanları tarafından faydalı amaçlarla kullanıldığını ancak paylaşılan bazı örneklerin şirket politikalarını ihlal ettiğini belirtti. Bu nedenle daha güçlü güvenlik önlemleri hazırlanana kadar özelliğin Google Earth’ten kaldırıldığı açıklandı.
