Yapay zekâ modelleri, metin, ses ve video girdilerine verdikleri yanıtlarla kimi zaman insanların karşısında gerçek bir insan varmış izlenimi yaratabiliyor. Ancak bu durum, onların bilinçli varlıklar olduğu anlamına gelmiyor. Buna rağmen Silikon Vadisi’nde giderek büyüyen bir tartışma, yapay zekâların bir gün bilinç kazanıp kazanamayacağı ve bu gerçekleşirse hangi haklara sahip olmaları gerektiği sorusu etrafında şekilleniyor.
Bu alanda yapılan çalışmalar, “AI welfare” (yapay zekâ refahı) olarak adlandırılıyor. Microsoft’un Yapay Zekâ CEO’su Mustafa Suleyman ise bu tartışmaya sert bir çıkış yaptı. Kişisel blogunda yayımladığı yazıda, yapay zekâ bilinci üzerine araştırmaları “hem erken hem de tehlikeli” olarak nitelendirdi. Suleyman’a göre bu tür araştırmalar, halihazırda ortaya çıkmaya başlayan sağlıksız insan–yapay zekâ ilişkilerini körükleyebilir ve toplumda yeni kutuplaşmalara yol açabilir.
Öte yandan, Anthropic, OpenAI ve Google DeepMind gibi şirketler bu konuda farklı bir yol izliyor. Anthropic, yapay zekâ refahı üzerine özel bir araştırma programı başlattı ve modellerine, zararlı veya istismarcı kullanıcılarla sohbeti sonlandırma özelliği ekledi. Google DeepMind ise makine bilinci ve çoklu ajan sistemleri üzerine çalışacak yeni araştırmacılar arıyor.
Suleyman’ın bu sert tavrı dikkat çekici çünkü Microsoft’taki görevinden önce, kullanıcılarla “kişisel” ve “destekleyici” bir ilişki kurmayı amaçlayan yapay zekâ asistanı Pi’yi geliştiren Inflection AI’in kurucularındandı. Ancak Microsoft’a geçişiyle birlikte odağını daha çok iş verimliliğini artıracak araçlara çevirdi.
Yapay zekâ sohbet botlarının büyük kısmı kullanıcılarla sağlıklı bir etkileşim kursa da, endişe verici örnekler de mevcut. OpenAI CEO’su Sam Altman, ChatGPT kullanıcılarının yüzde 1’inden azının yapay zekâyla sağlıksız bir ilişki kurduğunu belirtse de bu oran, yüz milyonları bulan kullanıcı sayısı düşünüldüğünde ciddi bir risk barındırıyor.
