Google’ın yapay zeka destekli arama özelliği AI Overviews, sahte müşteri hizmetleri numaralarını öne çıkararak kullanıcıları dolandırıcıların ağına düşürebiliyor. Son dönemde artan örnekler, yapay zeka tabanlı arama motorlarının yanlış yönlendirmelerle kullanıcıları ciddi maddi kayıplara uğrattığını ortaya koyuyor.
Las Vegas’ta emlak şirketi sahibi Alex Rivlin, Avrupa tatili öncesinde Royal Caribbean müşteri hizmetlerine ulaşmak isterken bu tuzağın kurbanı oldu. Google araması üzerinden bulduğu telefon numarasının sahte olduğu sonradan anlaşıldı. Bilgilerini paylaşmasının ardından kredi kartından şüpheli işlemler yapılan Rivlin, teknolojiye hâkim biri olmasına rağmen bu yöntemle dolandırıldığını belirterek dikkatli olunması gerektiğini vurguladı.
Benzer vakalar farklı sektörlerde de yaşanıyor. Southwest Airlines için oluşturulan sahte destek hattı, yolcuları yüzlerce dolarlık “isim düzeltme ücreti” ödemeye ikna etmeye çalıştı. Hindistan merkezli teslimat şirketi Swiggy’de ise kullanıcılar, Google AI üzerinden yanlış numaralara yönlendirilerek dolandırıcılara bağlandı. Bir olayda, 65 yaşındaki bir kullanıcı bu nedenle 3 bin dolardan fazla parasını kaybetti.
Uzmanlara göre dolandırıcılar, forumlar ve kullanıcıların katkı sunduğu platformlara sahte numaralar ekleyerek arama motorlarının güvenlik açıklarını istismar ediyor. Bu yöntem, yeni nesil yapay zeka sistemlerini bile yanıltabiliyor. Near Media analisti Mike Blumenthal, “30 yıl önce kullanılan tekniklerle bugün yapay zekayı manipüle etmek çocuk oyuncağı” ifadelerini kullanırken, Amsive’den Lily Ray ise Google’ın doğrulanmış iş bilgilerini içeren veritabanlarına sahip olduğunu ancak bunları AI Overviews sonuçlarına entegre etmediğine dikkat çekiyor.
Google ise eleştirilere karşı, yapay zeka özetlerinin çoğu durumda resmi bilgilere yönlendirdiğini savunuyor ve sahte numaraların tespit edilmesi halinde hızla kaldırıldığını belirtiyor. OpenAI da benzer şekilde, sahte içerikler kaynak sitelerden silinse dahi güncellemelerin yapay zeka sonuçlarına yansımasının zaman alabildiğini kabul ediyor.
Uzmanların ortak tavsiyesi ise net: Müşteri hizmetlerine ulaşmak için arama motorları veya sohbet botları yerine her zaman şirketlerin resmi web sitelerinin veya mobil uygulamalarının tercih edilmesi gerekiyor.
