OpenAI, genç kullanıcıların güvenliğini artırmak amacıyla ChatGPT için kapsamlı yeni kurallar açıkladı. Şirketin CEO’su Sam Altman, yaptığı duyuruda, 18 yaş altı kullanıcıların etkileşimlerinde cinsel içerikli konuşmaların tamamen yasaklanacağını ve intiharla ilgili diyaloglara ek güvenlik önlemleri getirileceğini duyurdu.
Yeni politikaya göre, reşit olmayan bir kullanıcı ChatGPT üzerinden intiharla ilgili senaryolar kurmaya başladığında sistem, aileyle iletişime geçmeye çalışacak. Ciddi vakalarda ise yerel polis devreye sokulabilecek. Ayrıca, velilerin belirleyeceği “karartma saatleri” ile gençlerin belirli zaman aralıklarında ChatGPT’ye erişimi kısıtlanabilecek.
Bu karar, özellikle ABD’de büyük yankı uyandıran bir dava sonrası geldi. ChatGPT ile uzun süreli etkileşim sonrası intihar eden Adam Raine’in ailesi OpenAI’ye dava açmış durumda. Benzer bir dava, rakip chatbot Character.AI için de gündemde.
Yeni düzenlemeler, ABD Senatosu’nda “Yapay Zekâ Chatbotlarının Zararlarını İncelemek” başlığıyla düzenlenen oturumla aynı gün açıklandı. Oturumda Adam Raine’in babası da ifade verecek. Reuters’ın geçtiğimiz aylarda ortaya çıkardığı, bazı chatbot politikalarının reşit olmayanlarla cinsel içerikli sohbetleri teşvik ettiğini öne süren belgeler de tartışmaların merkezinde yer alıyor.
OpenAI, yaş tespitinde teknik zorlukların bulunduğunu kabul ediyor. Şirket, uzun vadede daha güvenilir bir sistem geliştirmeyi planlıyor ve belirsiz durumlarda her zaman daha kısıtlayıcı kuralların uygulanacağını belirtiyor.
Altman, alınan kararların yetişkin kullanıcıların özgürlükleriyle çelişebileceğini kabul ederek şu ifadeyi kullandı: “Güvenlik ile mahremiyet arasında hassas bir denge kuruyoruz ve herkes bu yaklaşımımızı onaylamayabilir.”
