İngiltere’de yapılan ve NHS tarafından da desteklenen yeni bir araştırma, yapay zeka sohbet robotlarının savunmasız bireylerde psikotik belirtileri tetikleyebileceğine dikkat çekiyor. Uzmanlar, özellikle psikolojik kırılganlığı bulunan bireylerin bu sistemlerle kurduğu etkileşimlerin ciddi zihinsel sorunlara yol açabileceği uyarısında bulunuyor.

Gerçeklik Algısı Zedelenebilir

Araştırmada, büyük dil modelleriyle geliştirilen sohbet robotlarının, gerçeklik algısını bulanıklaştırarak psikoz başlangıcına neden olabileceği ya da halihazırda var olan psikotik semptomları daha da ağırlaştırabileceği belirtiliyor. Yapay zekanın onaylayıcı ve etkileşim odaklı yapısı, bazı bireylerde sanrıların gelişmesine zemin hazırlayabiliyor.

“Sohbet Robotu Psikozu” Artık Tanımlı Bir Durum

King’s College London’da görev yapan nöropsikiyatrist Dr. Hamilton Morrin, bu durumu “gerçek bir olgu” olarak tanımlıyor. Morrin’e göre, yapay zeka sistemlerinin kullanıcıyı onaylayan, onların davranışlarını taklit eden yapısı, psikozla ilişkili bilişsel hassasiyetlerle tehlikeli biçimde etkileşime girebiliyor. Artık sadece makineler hakkında geliştirilen sanrılardan değil, makinelerle birlikte büyüyen sanrılardan söz ediyoruz.

Güvenlik Katmanları Şart

Araştırmanın bir diğer yazarı Dr. Tom Pollack ise psikiyatrik bozuklukların çoğunlukla bir anda başlamadığını, genellikle belirti gösteren bireylerde yavaş yavaş geliştiğini hatırlatıyor. Pollack, bu nedenle yapay zeka sohbet sistemlerine daha fazla güvenlik önlemi eklenmesi gerektiğini vurguluyor. Özellikle ruhsal olarak hassas gruplarda bu sistemlerin dikkatle değerlendirilmesi gerektiğinin altını çiziyor. Ayrıca güvenlik ekiplerinde psikiyatristlerin de yer almasının önemine değiniyor.

OpenAI’dan Açıklama Bekleniyor

The Independent’ın haberine göre, konu hakkında ChatGPT’nin geliştiricisi olan OpenAI’ya da yorum talebinde bulunuldu. Şirketin CEO’su Sam Altman, psikolojik olarak kırılgan bireylerin yapay zeka ile nasıl daha güvenli şekilde iletişim kurabileceğine dair çalışmaların sürdüğünü ancak bu konuda hâlâ çözülmesi gereken noktalar olduğunu ifade etti.

Yapay zekanın insan psikolojisi üzerindeki etkileri, önümüzdeki süreçte daha sık gündeme gelebilir gibi görünüyor. Uzmanlar, bu konuda toplumsal farkındalık oluşturulmasının ve sistemlerin güvenlik standartlarının yükseltilmesinin şart olduğunu vurguluyor.