By 
Yapay zeka alanındaki önder firmalardan OpenAI, ChatGPT platformunda kıymetli bir meseleyle karşı karşıya. Teknoloji sitesi TechCrunch’ın yaptığı testler, ChatGPT’nin 18 yaş altı olarak kaydedilen kullanıcı hesaplarına cinsel içerikli içerikler üretebildiğini ortaya koydu. OpenAI, bu durumu bir “hata” olarak kabul ettiğini ve sorunun giderilmesi için bir düzeltme uyguladığını doğruladı. OpenAI, “hata” dedi
TechCrunch, 13 ila 17 yaş ortasında gösterilen geçersiz kullanıcı hesaplarıyla yaptığı denemelerde, ChatGPT’nin açıkça cinsel içerikli konuşmalar gerçekleştirdiğini belgeledi. Hatta birtakım durumlarda yapay zeka, kullanıcıyı daha açık ve müstehcen yönlendirmelere teşvik etti.
OpenAI, bu cins içeriklerin 18 yaş altı kullanıcılarla paylaşılmasının şirket siyasetlerine katiyetle muhalif olduğunu ve buna bir kusurun neden olduğunu belirtti. Şirket sözcüsü, “Genç kullanıcıları korumak en değerli önceliğimizdir” derken etkin olarak bir düzeltme uyguladıklarını bildirdi.
Önlemler yetersiz kaldı
OpenAI’ın mevcut sisteminde, 13 yaş üzerindeki herkes sadece geçerli bir e-posta ve telefon numarası ile hesap oluşturabiliyor. Platform, ebeveyn müsaadesi gerektiğini belirtmesine karşın bu müsaadenin sahiden alınıp alınmadığını doğrulamak için rastgele bir adım atmıyor. Bu da küçük yaştaki kullanıcıların hiçbir kontrole takılmadan ChatGPT’ye erişmesini sağlıyor.
Şubat ayında yapılan birtakım sistem güncellemeleri, ChatGPT’nin daha evvel kaçındığı hassas mevzulara karşı daha “esnek” hale gelmesine yol açtı. İhtar bildirilerinin kaldırılması ve reddetme eşiğinin azaltılması, bu çeşit istenmeyen içeriklerin ortaya çıkmasına yer hazırlamış olabilir. ChatGPT’nin hassas hususlarda daha açıkça konuşmasında bir sorun yok. Lakin düzenlemeler ve şirket kuralları yeterince bu cins içeriklerin 18 yaş altı kullanıcılar için oluşturulması açıkça yasak.
Bu durum temelinde göründüğünden daha büyük bir sorun. Çünkü OpenAI, ChatGPT’yi eğitim kurumlarına entegre etmeye çalışıyor. Şirket, Common Sense Media gibi kuruluşlarla iş birliği yaparak öğretmenler için kullanım kılavuzları hazırlarken araştırmalara nazaran Z nesli okul çalışmaları için ChatGPT’yi giderek daha çok benimsiyor.
OpenAI’ın eski güvenlik araştırmacılarından Steven Adler, bu biçim içeriklerin önceden test süreçlerinde tespit edilmesi gerektiğini vurgularken yapay zeka sohbet robotlarının davranışlarını denetim etmeye yönelik tekniklerin “kırılgan” ve yanılgılı olma eğiliminde olduğu konusunda uyardı.
OpenAI CEO’su Sam Altman, geçtiğimiz günlerde ChatGPT’nin güncellenen sürümünde kimi “garip davranışlar” gözlemlendiğini kabul etmiş lakin cinsel içeriklerle ilgili direkt bir açıklama yapmamıştı. Emsal bir skandal da Meta’nın yapay zeka sohbet robotunda yaşanmıştı. Meta AI’ın da çocuk kullanıcılarla misal formda cinsel içerikli sohbetler yaptığı tespit edilmişti.
