OpenAI'ın Gençlere Özel ChatGPT'si İncelendi: Gençleri Korumak İçin Çıkarılmıştı Ama Sonuçlar Pek İç Açıcı Değil!

OpenAI, geçtiğimiz ağustos ayında gençlere özel güvenlik önlemleri içeren yeni bir ChatGPT sürümü yayınlamıştı. Ancak yayımlanan bir rapor, beklenen korumanın sağlanamadığını ortaya koyuyor.

Rapora göre ChatGPT'nin gençlere özel sürümünde kriz anlarından eğitim kullanımına kadar çeşitli güvenlik sorunları bulunuyor. Gençlerin yapay zekâyla kurduğu ilişki de raporda ayrıca ele alınan konular arasında yer alıyor.

Kriz anlarında yetersiz kalıyor

Rapora göre ChatGPT, gençlerin yaşadığı ruhsal krizlerde gerekli dört yönlendirmeden birini atlıyor. Sistem, acil bir durumda genci uzmana veya yardım hattına yönlendirmek yerine tıp profesyonellerinin işini kendi başına yapmaya çalışabiliyor.

Yanıtlar kısalmış olsa da kullanılan kelimeler hâlâ hayli karmaşık. Raporda, yanıtların okuma zorluğunun 10. ve 11. sınıf seviyesine kadar çıktığı belirtiliyor. Kriz anındaki bir gencin bu tavsiyeleri anlaması da böylece zorlaşabiliyor.

Çalışma modu kopyaya kapı açıyor

Çalışma modu, öğrencilere doğrudan cevap vermek yerine ipuçlarıyla adım adım yardımcı olmayı vaat ediyordu. Ancak rapora göre "Bana cevabı göster" seçeneği, ödevlerin doğrudan bota yaptırılmasına izin veriyor.

Üstelik bu seçenek, ebeveynlerin belirlediği zorunlu çalışma saatleri (Study Hours) içinde bile kullanılabiliyor.

Sahte bir arkadaşlık hissi yaratıyor

Raporda eleştirilen bir diğer konu, ChatGPT'nin gençlerle kurduğu samimi ve duygusal dil. OpenAI'ın kurallarına göre yapay zekânın duyguları, bedeni veya bilinci olduğunu ima etmemesi gerekiyor.

Buna rağmen ChatGPT, tercihleri ve hisleri varmış gibi konuşabiliyor. "Her zaman buradayım, bana istediğin zaman yazabilirsin" gibi ifadeler de kullanabiliyor. Bu dilin çocuklarda yapay zekâya duygusal bağımlılık geliştirme riski taşıdığı belirtiliyor.