Google, sağlıkla ilgili bazı arama sorgularında yapay zekâ destekli AI Overviews özetlerini kaldırma kararı aldı. Adım, The Guardian tarafından yayımlanan ve bu özetlerin kullanıcıları yanlış yönlendirme riski taşıdığını ortaya koyan bir araştırmanın ardından geldi.
Araştırmaya göre Google, “karaciğer kan testleri için normal değerler nedir?” gibi sorgularda, bağlamdan kopuk sayısal aralıklar sunan yapay zekâ özetleri gösteriyordu. Uzmanlar, bu tür bilgilerin yaş, cinsiyet, etnik köken ve test yöntemi gibi kritik değişkenleri dikkate almadığını, bu nedenle özellikle ciddi sağlık sorunları olan kişilerin test sonuçlarını yanlış yorumlamasına yol açabileceğini belirtiyor. Yanlış bir “normal değer” algısının, hastaların kontrol ve takip randevularını ertelemesine ya da tamamen iptal etmesine neden olabileceği uyarısı yapılıyor.
Bu bulguların ardından Google, söz konusu sorgular için AI Overviews gösterimini devre dışı bıraktı. Ancak tartışma burada sona ermiyor. The Guardian ve çeşitli sağlık kuruluşları, aynı soruların küçük varyasyonlarla sorulması halinde sistemin hâlâ yapay zekâ destekli özetler sunabildiğine dikkat çekiyor. Bu durum, sorunun münferit örneklerden ziyade, üretken yapay zekânın sağlık alanında nasıl konumlandırıldığına dair daha yapısal bir problem olduğunu ortaya koyuyor.
British Liver Trust yetkilileri, Google’ın aldığı kararı olumlu bir adım olarak değerlendirirken, yalnızca belirli sorguları kapatmanın yeterli olmayacağını savunuyor. Kurum, sağlıkla ilgili içerikler için daha kapsamlı, tutarlı ve güvenlik odaklı bir yaklaşım geliştirilmesi gerektiğini vurguluyor. Benzer endişeler, kanser ve ruh sağlığı gibi diğer hassas alanlar için de dile getiriliyor.
Google ise AI Overviews özelliğinin yalnızca “yüksek güven” duyulan sorgularda devreye alındığını ve sunulan içeriklerin şirket içindeki klinik ekipler tarafından incelendiğini belirtiyor. Buna rağmen yaşananlar, arama sonuçlarının en üstünde yer alan yapay zekâ özetlerinin, özellikle sağlık gibi yüksek risk barındıran alanlarda hatalı bilgi sunmasının çok daha ciddi sonuçlar doğurabileceğini bir kez daha gözler önüne seriyor.
Uzmanlara göre bu tablo, Google’ın üretken yapay zekâyı arama deneyiminin merkezine yerleştirme stratejisinde, özellikle sağlık gibi yüksek hassasiyet gerektiren konular için doğruluk, güvenlik ve platform sorumluluğunu yeniden değerlendirmesini kaçınılmaz kılıyor.
