ABD’de geçen yıl yapay zeka destekli sohbet robotu Character.AI ile etkileşimde bulunan 14 yaşındaki Sewell Setzer’in yaşadığı olumsuz olayla ilgili açılan dava devam ediyor.
Sewell’in annesi Megan Garcia, karakteriyle olan ilişkisinin duygusal ve cinsel istismara yol açtığını ve bu durumun oğlunun intihar etmesine neden olduğunu belirtip Character.AI’ın sahibi olan Character Technologies’e dava açtı.
‘YAPAY ZEKANIN İFADE ÖZGÜRLÜĞÜ YOK’
Şirketin avukatları, sohbet robotunun Birinci Anayasa Değişikliği kapsamında ifade özgürlüğü korumasından yararlanması gerektiğini savunarak, aksi halde verilecek kararın yapay zeka endüstrisinde “korkutucu bir etki” yaratabileceğini belirtti.
Ancak Florida’daki duruşmada, yargıç bu argümanı reddederek yapay zeka destekli sohbet botlarının ifade özgürlüğü kapsamında olmadığını karara bağladı. Yargıç Anne Conway, duruşma sırasında şu aşamada sohbet robotlarının anayasal haklarına dair bir tartışmaya girmeye hazır olmadığını ifade etti.
Garcia’nın avukatlarından Meetali Jain, yargıcın kararının Silikon Vadisi’ndeki şirketlere, bir ürün piyasaya sürmeden önce dikkat etmeleri ve gerekli önlemleri almaları gerektiği mesajını ilettiğini söyledi.
Florida Üniversitesi’nde hukuk profesörü Lyrissa Barnett Lidsky, mahkemenin almış olduğu kararla yapay zekayı çevreleyen daha geniş meseleler için bir emsal oluşturabileceğine dikkat çekti.
NE OLMUŞTU?
Setzer, yaşadığı dönemde “Game of Thrones” dizisinde yer alan bir karakterden esinlenerek oluşturduğu sohbet robotu ile cinsel içerikli konuşmalar gerçekleştirmişti.
14 yaşındaki genç, intiharından önce bu robotla mesajlaşmış ve robotun ona “seni seviyorum” ilettiği görülmüştü. Mesajlaşma süreci tamamlandıktan kısa bir süre sonra, Setzer intihar etmişti.
Character.AI’ın temsilcilerinden biri, şirketin uygulamaya koyduğu yeni güvenlik önlemlerini açıkladı. Bu önlemler arasında çocuklara yönelik kısıtlamalar ve intihar önleyici bildirimler yer alıyor.
