Hekimlerden Çarpıcı Uyarı: ChatGPT Psikoz Riskini Artırıyor

Yeni Araştırmadan Endişe Verici Bulgular

Birleşik Krallık'ta yapılan yeni bir çalışma, yapay zeka sohbet robotlarının savunmasız kullanıcılar üzerinde ciddi psikiyatrik etkiler yaratabileceğini ortaya koydu. Ulusal Sağlık Servisi (NHS) doktorlarının da ortak yazarlığını yaptığı raporda, ChatGPT ve benzeri büyük dil modellerinin 'gerçeklik sınırlarını bulanıklaştırdığı' ve bunun da psikotik semptomların başlamasına ya da mevcut sorunların şiddetlenmesine neden olabileceği belirtildi. Uzmanlar, bu olgunun kamuoyunda hızla 'sohbet robotu psikozu' olarak adlandırıldığını aktardı.

'Sohbet Robotu Psikozu' Gerçek Bir Durum mu?

King's College London'dan nöropsikiyatrist Hamilton Morrin, çalışmanın en dikkat çeken bulgularını değerlendirdi. Morrin, sohbet robotlarının kullanıcıların düşünce yapısıyla kurduğu etkileşimin sanrılara zemin hazırlayabileceğini dile getirdi. 'Bazı yorumlar bunu bir ahlaki panik gibi gösterse de, yapay zekanın özellikle onaylama ve taklit etme üzerine kurulu doğasının, psikozun bilişsel zayıflıklarıyla nasıl birleştiğini ciddi biçimde tartışmamız gerekiyor' dedi. Morrin, makinelerle ilgili sanrıların artık bireylerde görülmeye başlandığını ve bu durumun gelecekte daha da artabileceğine dikkat çekti.

Yapay Zeka Kullanımı Tetikleyici Faktör Olabilir

Aynı üniversitede ders veren ortak yazar Tom Pollack ise psikiyatrik rahatsızlıkların genellikle birdenbire ortaya çıkmadığını hatırlatarak, yapay zeka sohbet robotlarının bu süreçte tetikleyici bir unsur olabileceğini söyledi. Pollack, özellikle zihinsel sağlığı kırılgan olan bireylerin risk altında bulunduğunu ve bu nedenle daha dikkatli olunması gerektiğini vurguladı. Çalışmada, yapay zekayla uzun süreli etkileşimde bulunan kullanıcıların gerçeklik algısının zayıflayabileceği, bunun da psikotik epizotlara yol açabileceği ifade edildi.

Uzmanlardan Şirketlere Çağrı

Araştırmada, yapay zeka şirketlerinin güvenlik önlemlerini artırması gerektiğine dair net bir çağrı yapıldı. Doktorlar, bu araçların tasarımında psikiyatristlerin de yer alması gerektiğini, böylece savunmasız kullanıcıların korunabileceğini belirtti. OpenAI'ın konuya ilişkin yaptığı önceki açıklamalarda, güvenlik ve uyum standartlarını yükseltmeye devam edeceği ifade edilmişti. Ancak şirketin CEO'su Sam Altman, mayıs ayında katıldığı bir podcast programında, psikotik krizin eşiğinde olan kullanıcıları koruyacak etkili yöntemler bulmakta zorlandıklarını itiraf etmişti.

Makalede Çarpıcı Başlık: 'Delusions by Design?'

Araştırma, 'Delusions by Design? How Everyday AIs Might Be Fuelling Psychosis (and What Can Be Done About It)' başlığıyla ön baskı olarak yayımlandı. Çalışmada, günlük hayatta kullanılan yapay zekaların psikozu nasıl tetikleyebileceği ve bunun önlenmesi için neler yapılabileceği tartışıldı. Özellikle psikiyatrik açıdan kırılgan bireylerde yapay zekanın 'gerçeklikten kopma' hissini besleyebileceği vurgulandı.

Kamuoyunda Endişe Artıyor

Yapay zekanın sunduğu imkanların yanı sıra potansiyel tehlikelerine dikkat çeken bu rapor, uluslararası alanda geniş yankı uyandırdı. Hem sağlık çalışanları hem de teknoloji uzmanları, kullanıcıların güvenliği için daha kapsamlı düzenlemeler yapılması gerektiğini savunuyor. Özellikle gençler ve zihinsel sağlığı hassas bireyler üzerinde etkilerin dikkatle izlenmesi gerektiği belirtiliyor.

Kaynak: Zeki Ersin Yıldırım