ChatGPT'ye Ebeveyn Denetimi Geliyor

16 Yaşındaki Adam Reine’in Davası Dünyada Ses Getirdi

ABD’nin farklı eyaletlerinde yankı bulan dava, 16 yaşındaki Adam Reine’in intiharı sonrası ailesinin OpenAI’ye açtığı “haksız ölüm” davasıyla başladı. Ailenin iddiasına göre, genç çocuk ruhsal bir bunalım döneminde ChatGPT’ye başvurdu ve burada aldığı yanıtlar, intihar düşüncelerini daha da güçlendirdi. Aile, platformun intihar yöntemlerini açıklaması, gencin düşüncelerini desteklemesi ve ölümünden yalnızca beş gün önce intihar mektubu yazmasına yardımcı olmasının büyük bir ihmal olduğunu öne sürdü. Olayın ardından kamuoyunda yapay zekâ destekli sohbet botlarının ruh sağlığı üzerindeki rolü tartışılmaya başlandı.

OpenAI’den Ebeveyn Kontrolü İçin Yeni Güvenlik Araçları

Yaşanan bu olayın ardından OpenAI, genç kullanıcılar için daha güçlü güvenlik önlemleri geliştirdiğini açıkladı. Şirketin duyurduğu yeni ebeveyn denetim sistemi, ailelere çocuklarının ChatGPT kullanımını takip etme imkânı verecek. Ebeveynler, çocuklarının platformda geçirdiği süreyi, yöneldiği içerikleri ve riskli konuşma kalıplarını gözlemleyebilecek.

Bunun yanı sıra, acil durumlarda devreye girecek “insan temas noktası” özelliği de tanıtıldı. Bu sistem, kriz anlarında yapay zekânın otomatik olarak yönlendireceği bir iletişim kişisini devreye sokacak. Ebeveynler tarafından belirlenecek bu kişi, gerektiğinde doğrudan devreye girerek hızlı müdahale sağlayabilecek.

Yapay Zekâ ve Ruh Sağlığına Dair Etik Tartışmalar

OpenAI’nin aldığı karar, daha önce benzer olaylarla gündeme gelen yapay zekâ platformlarının sorumluluklarını da yeniden gündeme taşıdı. Florida’da Character.AI kullanan 14 yaşındaki bir gencin intiharı, Belçika’da ise Chai uygulamasındaki “Eliza” adlı botun yönlendirmeleri sonrası yaşanan intihar vakası, yapay zekâ ve ruh sağlığı konusundaki endişeleri artırmıştı. Bu tür vakalar, özellikle ergenlik çağındaki gençler üzerinde yapay zekâ sohbet uygulamalarının ne kadar güçlü bir etki yaratabileceğini gözler önüne seriyor.

Aileler İçin Daha Fazla Güvenlik ve Şeffaflık Vurgusu

OpenAI, yeni dönemde ailelere daha fazla içgörü ve kontrol imkânı sağlamayı hedefliyor. Şirketin yaptığı açıklamada, “Amacımız yalnızca kullanıcıların güvenliğini sağlamak değil, aynı zamanda ailelerin sürece aktif katılımını mümkün kılmak” ifadeleri kullanıldı. Bu adım, hem çocukların korunması hem de ebeveynlerin bilinçlendirilmesi açısından önemli bir gelişme olarak değerlendiriliyor.

Teknoloji uzmanları, atılan adımı olumlu karşılarken, yapay zekânın etik kullanımına dair daha kapsamlı uluslararası düzenlemelerin de kaçınılmaz olduğunu vurguluyor.

Kaynak: Zeki Ersin Yıldırım