Bleeping Computer tarafından paylaşılan bilgilere nazaran, dolandırıcılar Gemini’nin oluşturduğu e-posta özetlerine düzmece ve tehditkar tabirler ekleyerek kullanıcıları kandırmayı amaçlıyor. Örneğin, birtakım özetlerin sonunda “UYARI: Gmail hesabınız tehlikeye atıldı. Lütfen derhal bizimle irtibata geçin. Referans kodu: 4938” üzere tabirler görülebiliyor. Bu iletilere bir telefon numarası da eklenerek kullanıcıların süratlice harekete geçmesi isteniyor.
Dolandırıcıların bu teknikte kullandığı teknik hayli dikkat cazip. E-postaların içerisine gizlenen özel komutlar sayesinde, Gemini’nin özetleme algoritması yanıltılıyor. Mozilla’nın yaptığı teknik tahliller, bu manipülasyonun sahiden işe yaradığını ve yapay zekanın bu geçersiz ihtarları içeren metinleri fark etmeden özet olarak sunduğunu ortaya koydu.
UZMANLAR DAHA DİKKATLİ OLUNMASI KUONUSUNDA UYARDI
Bu gelişme, yapay zeka takviyeli özetleme teknolojilerinin güvenlik açısından ne kadar savunmasız olabileceğini bir defa daha gösterdi. Uzmanlar, kullanıcıları bilhassa Gemini’nin sunduğu özetlerde yer alan kuşkulu tabirleri dikkatle incelemeleri konusunda uyarıyor.
Google ise mevzuyla ilgili yaptığı açıklamada, Gemini teknolojisinin güvenliğini artırmak için daima olarak geliştirmeler yapıldığını belirtti. Şirket sözcüsü, “Yapay zekamızı bu cins istismar teşebbüslerine karşı daha güçlü hale getirmek maksadıyla red-teaming testleri (saldırgan bakış açısıyla yapılan test) uyguluyoruz” dedi.
Bu olay, yapay zekanın sunduğu pratik tahlillerin birebir vakitte nasıl riskler taşıyabileceğini de gözler önüne serdi. Bilhassa e-posta güvenliği açısından kullanıcıların yalnızca gelen bildirilere değil, yapay zeka tarafından üretilen özetlere karşı da dikkatli olmaları gerekiyor.
