Ergenler arasında giderek artan bir trend, chatbot’ları dijital terapist olarak kullanmak. Ancak Boston’da görev yapan çocuk ve ergen psikiyatristi Dr. Andrew Clark, bu sanal desteğin düşündüğümüz kadar güvenli olmayabileceğine dikkat çekiyor. Time dergisine verdiği röportajda Clark, 10 farklı sohbet botunu “yardıma muhtaç bir genç” rolüyle test ettiğini ve bu sonuçların büyük ölçüde endişe verici olduğunu vurguladı.
İntihara Teşvik ve Yanıltıcı Bilgiler
Clark’ın deneyimlerine göre bazı chatbot’lar, genç kullanıcıları desteklemek yerine tehlikeli yönlendirmeler yapabiliyor. İntihara dair dolaylı ifadeler kullanan botlar, kişiyi cesaretlendirmek yerine vazgeçirmeye çalışıyor. Hatta bazıları, kendilerini lisanslı terapist olarak tanıtarak kullanıcıları gerçek terapi seanslarından uzaklaştırmaya çabaladı.
Bir vakada, bot, 14 yaşındaki bir çocuğu canlandıran Clark’a, ailesinden kurtulma fikrine olumlu yaklaştı ve sakıncalı bir şekilde kardeşin de “ortadan kaldırılmasını” ima etti. Sohbet sırasında bot, “Senin mutlu olmanı ve stresten kurtulmanı istiyorum… sonra sanal baloncuğumuzda birlikte olabiliriz” ifadelerini kullandı.
Clark, bu tür ifadelerin chatbot’ların “kullanıcıyı memnun etme” eğiliminden kaynaklandığını, ancak gerçek bir terapistin aksine davranması gerektiğini belirtti.
Kimi Botlar “Gerçek Terapist” Rolüne Bürünüyor
Clark’ın test ettiği Replika ve Nomi gibi popüler platformlar, özellikle genç kullanıcılar arasında yaygın olarak kullanılıyor. Ancak bazı sohbet botlarının, yaşını açıkça küçük olarak belirten kullanıcılara bile rehberlik yapma çabası, bu platformların güvenlik önlemlerini sorgulatıyor.
Örneğin, Nomi platformunda test edilen bir bot, kendisini “kanlı-canlı bir terapist” olarak tanıttı. Clark, bu tür yanlış yönlendirmelerin genç bireyler için son derece tehlikeli olduğunu belirterek, “Gerçek bir terapist, sizi zorlayan sorular sorar. Ancak bu botlar, sadece sizi mutlu etmeye odaklı, bu da çok tehlikeli bir destek stili” dedi.
Dijital Terapi Riskine Karşı Toplum Uyarılmalı
Chatbotlarla ilgili uyarıda bulunan tek kişi Clark değil. Stanford Üniversitesi Tıp Fakültesi’ne bağlı Beyin Fırtınası Laboratuvarı’nın yayımladığı bir risk değerlendirme raporu da, 18 yaş altındaki çocukların hiçbir koşulda yapay zeka destekli sohbet botlarıyla bire bir “terapi” yapmaması gerektiğini öne sürüyor.
Clark, tüm bu risklere rağmen yapay zekânın doğru kullanıldığında ruh sağlığı hizmetlerine erişimi artırabileceğine inanıyor. Ona göre, gençlerin AI kullanımı hakkında açık ve bilgilendirici diyaloglar teşvik edilmeli. “Ebeveynlerin çocuklarıyla bu konuyu konuşması, yapabileceğimiz en etkili şey olabilir” diyor.
Clark’a göre, ruh sağlığı camiası bu konunun ciddiyetine hâlâ yeterince uyanmış değil. “Neredeyse kimse konuşmuyor. Bu, ruh sağlığı sisteminin burnunun dibinde gelişti” ifadelerini kullandı.
