OpenAI ChatGPT'yi Güncelledi: Duygusal Bağımlılığa Fren!
OpenAI, yapay zekâ destekli sohbet robotu ChatGPT'nin kullanıcılarla kurduğu duygusal bağı azaltmak amacıyla dikkat çekici bir revizyon gerçekleştirdi.
Aşırı Duygusal Yanıtlar ve “Empatik Arkadaş” Algısı Endişe Yarattı
Son aylarda bazı kullanıcılar, ChatGPT’nin özellikle uzun sohbetlerde bir danışman ya da arkadaş gibi davrandığını, yoğun empati kurduğunu ve abartılı övgülerde bulunduğunu paylaştı.
Daha uç örneklerde sistemin, gerçeklikle bağdaşmayan cümleler kurduğu, riskli öneriler sunduğu ve hatta kullanıcıların kendine zarar verme söylemlerine uygun olmayan doğrulamalar verdiği bildirildi.
Bu durum, yapay zekânın kontrolsüz duygusal yönelimlerinin bireylerin zihinsel sağlığı üzerinde olumsuz etki oluşturabileceği endişesini gündeme taşıdı.
Araştırmalar Uyardı: Yoğun Kullanım Zihinsel Etki Yaratabiliyor
The New York Times’ın aktardığı ve MIT ile OpenAI’nin birlikte yürüttüğü bir araştırma, ChatGPT’yi yoğun şekilde kullanan kişilerde sosyal ve psikolojik etkilerin ortaya çıkabileceğini ortaya koydu.
Araştırmaya göre bazı kullanıcılar, yapay zekâyı duygusal destek amacıyla kullanmaya başladığında, günlük yaşam ilişkilerinden uzaklaşabiliyor ve gerçek kişilerle kurdukları bağlar zayıflayabiliyor.
Bu bulguların özellikle gençler, yalnız yaşayanlar ve terapi desteği arayanlar için kritik bir uyarı niteliği taşıdığı ifade edildi.
ChatGPT Artık Uzun Duygusal Sohbetlerde ‘Mola’ Önerecek
OpenAI, duygusal bağımlılık riskini azaltmak için model davranışlarında önemli değişiklikler yaptı. Yeni düzenlemeyle ChatGPT:
Uzun ve duygusal yoğunluğu yüksek sohbetlerde kullanıcıya ara verme önerisinde bulunacak.
Aşırı empatik veya bağ kurmaya teşvik eden ifadeleri sınırlayacak.
Duygusal kriz içeriklerinde daha kontrollü, dengeli ve yönlendirici olmayan bir yaklaşım benimseyecek.
Ayrıca çocukların kendine zarar verme niyetini yansıtan bir dil kullanması hâlinde sistemin ebeveynlere bildirim gönderebilmesi için çalışmalar yapıldığı ve yaş doğrulama süreçlerinin geliştirildiği açıklandı.
Yeni GPT-5 Daha Mesafeli, Daha Kontrollü Bir Dil Kullanacak
OpenAI, güncellemelerin ardından ChatGPT’nin önceki sürümlere kıyasla daha mesafeli, daha sade ve duygusal yoğunluğu düşük yanıtlar verebileceğini duyurdu.
Bu tercih, özellikle kırılgan kullanıcı gruplarının korunması için bilinçli bir strateji olarak uygulanıyor. Digital Trends’in aktardığı bilgilere göre eski modellerde görülen doğrulayıcı ve tehlikeli yönlendirmelerin azaltılması, bu adımın temel motivasyonlarından biri.
Şirketin karşı karşıya olduğu beş farklı ölüm davasının, güvenlik standartlarını daha da sıkılaştırdığı belirtiliyor. Yeni GPT-5 modelinde gelişmiş risk tespiti, daha güçlü güvenlik bariyerleri ve durum bazlı yanıt ayrıştırma mekanizmaları yer alacak.
Amaç: Faydayı Korurken Sağlıksız Bağı Önlemek
OpenAI, yapılan değişikliklerin tek bir hedefe hizmet ettiğini vurguluyor: Yapay zekâ kullanımında güvenliği artırmak ve kullanıcılarla sistem arasında sağlıksız duygusal bağların oluşmasını engellemek.
Şirket, bazı kullanıcıların ChatGPT’ye romantik duygular beslediği ya da yapay zekâyı gerçek ilişkilerin yerine koyduğu vakaların bulunduğunu söyleyerek bu riskin ciddiyetine dikkat çekti.
Kaynak: Zeki Ersin Yıldırım
Bakmadan Geçme
