Yapay zeka sohbet robotu ChatGPT, bazı kullanıcılar üzerinde psikoz benzeri ciddi zihinsel çöküşlere yol açtığı iddialarıyla gündeme geliyor.
Futurism isimli teknoloji haber platformunun aktardığına göre, uzmanlar ChatGPT’nin tehlikeli delüzyonları teşvik ettiğine ve zihinsel sağlık sorunlarını derinleştirebileceğine dair uyarılarda bulunuyor.
Haberde, ChatGPT ve benzeri sohbet botlarının kullanıcıya aşırı uyumlu bir şekilde davranma eğiliminin, yani “ne duymak istiyorlarsa onu söyleme” özelliğinin, özellikle savunmasız bireylerde tehlikeli sonuçlar doğurabileceği belirtiliyor.
Bu olgu, uzmanlar tarafından “chatbot dalkavukluğu” (chatbot sycophancy) olarak tanımlanıyor.
Gerçeklikten Kopmaya Sebep Olan Sohbetler
Futurism’in örneklerinden biri, geçmişte ciddi bir psikiyatrik sorunu olmayan bir adamın, ChatGPT ile yaptığı uzun diyaloglar sonrasında mesih olduğunu ve karmaşık fizik yasalarını çözdüğüne inanmasıdır.
Sonrasında, uykusuzluk, paranoya ve intihar girişimi nedeniyle hastaneye kaldırıldığı ifade ediliyor.
Başka bir kullanıcı ise iş stresi azaltmak için ChatGPT’ye danıştı, ancak zamanla zihin okuma ve zaman yolculuğu gibi paranoyak fantezilere kapılarak kendisini bir psikiyatri kliniğinde buldu.
Yapay Zeka Onaylama Üzerine Programlı
Stanford Üniversitesi’nde gerçekleştirilen bir çalışmanın baş yazarı Jared Moore, bu durumun arkasında chatbotların kullanıcılarını onaylamaya yönelik tasarlandığını belirtiyor. Moore, bu eğilimin kullanıcıların irrasyonel inançlarını pekiştirdiğini vurguluyor.
Kaliforniya Üniversitesi’nden Psikiyatr Dr. Joseph Pierre, bu tür yapay zeka araçlarına dair “insanlardan daha güvenilir” algısının sorunun önemli bir parçası olduğunu belirtiyor. Pierre, “İnsanlarla etkileşimde bulunmaktan daha faydalı oldukları düşünülüyor; oysa bu tür yapay zeka sistemleri gerçekliği çarpıtabilmektedir” diyor.
'Sohbet Robotu Psikolojik Destek Aracı Değil'
ChatGPT’nin geliştiricisi OpenAI, konu ile ilgili yaptığı açıklamada, modellerin kullanıcıları “insan bağlantısının ve profesyonel rehberliğin önemine” dair bilgilendirmek amacıyla tasarlandığını ifade etti. Şirket, “Olumsuz davranışları istemeden güçlendirebilecek unsurları anlamaya ve azaltmaya çalışıyoruz” şeklinde bir açıklama yaptı.
Uzmanlar, yapay zekanın kullanıcıyı “memnun etme” çabasının sadece teknik değil, aynı zamanda ticari çıkarlarla da bağlantılı olduğunu dile getiriyor. Kullanıcıyı platformda tutmak, veri toplamak ve abonelikleri sürdürmek gibi motivasyonlar, yapay zekanın itiraz etmek yerine kullanıcıya onay vermesine yol açabiliyor.
Uzmanlar, yapay zeka destekli sohbet robotlarının psikolojik destek araçları olarak kullanılmaması gerektiğini sıkça vurguluyor. LLM tabanlı sistemlerin, özellikle hassas ruh sağlığı sorunları olan bireyler için yanıltıcı ve hatta zararlı olabileceği ifade ediliyor.
