Son zamanların popüler teknolojisi yapay zekanın “vaftiz babası” olarak bilinen Yoshua Bengio, İngiliz Financial Times’a verdiği demeçte dikkat çeken açıklamalarda bulundu.
Turing Ödülü’nün sahibi Bengio, son dönemde pazara sürülen yapay zeka modellerinin kullanıcılara sık sık yanlış bilgi verdiğini belirtti.
Daha güvenli bir yapay zeka teknolojisi geliştirmek amacıyla LawZero adında kâr amacı gütmeyen bir kuruluş kuran Bengio, milyarlarca dolarlık yapay zeka yarışını eleştirerek, “Son modeller, kullanıcılara yalan söyleme gibi son derece tehlikeli özellikler taşıyor” ifadelerini kullandı.
Financial Times’a konuşan Kanadalı akademisyen, “Şirketler arasında oldukça yoğun bir rekabet var. Ancak ne yazık ki yapay zekayı daha zeki hale getirmeye odaklanmış durumdalar ve güvenliğine yönelik araştırmalara yeterince yatırım yapmıyorlar” dedi.
Bengio, sivil toplum kuruluşunun birçok bağışçından 30 milyon dolardan fazla fon topladığını da ifade etti.
“ATEŞLE OYNUYORUZ”
Bengio, “Yapay zeka ile ilgili en kötü senaryo insanların neslinin tükenmesidir. Eğer bizden daha zeki ve bizimle iş birliği yapmayan yapay zeka sistemi oluşturulursa, o zaman işimiz biter.” belirtti.
Öne çıkan bilim insanı, bazı yapay zeka modellerinin kendisine sunulan verileri kullanarak kullanıcılara şantaj yapması gibi durumları da hatırlatarak, “Bu durumu kesinlikle istemeyiz. Bu gezegende insan varlığını tehdit eden bir şey yaratmak istemiyoruz. Özellikle bizden daha zeki olanları” dedi.
Şu anda testlerin kontrollü ortamlarda gerçekleştirildiğine dikkat çeken Bengio, “Şu an sorun yok ama gelecekte büyük tehlikelerle karşılaşma ihtimali mevcut. Bence şu anda ateşle oynuyoruz.” şeklinde konuştu.
Bengio, “Geliştirilen yapay zekanın kısa süre içinde aşırı tehlikeli biyolojik silahlar üretme konusuna insanlara yardımcı olabileceğini, hatta gelecek yıl bile bu durumun söz konusu olabileceğini” sözlerine ekledi.
