ABD’de kaygı verici bir gelişme yaşandı…
Anthropic isimli firmanın yapay zeka ürünü Claude Opus 4 modeli, adeta insanlığa karşı bir savaş başlattı.
Geliştiricilerin onu kullanmamaya karar vermesinin ardından çılgına dönen yapay zeka, yaratıcısına şantaj yaptı.
Geçtiğimiz günlerde TechCrunch tarafından paylaşılan bir haberde, şirket çalışanlarının yapay zekaya tüm e-postalara erişim sağladığı ve bu bilgileri kullandığı belirtildi.
Fakat, şirket çalışanları yapay zekaya artık kullanılmayacağını söyleyince, yapay zeka bunu yapmaları durumunda mühendislerinden birinin evlilik dışı ilişkisini ifşa edeceğini duyurdu.
Testlerde, yapay zekanın ömrünü uzatmak adına ilişkiyi açığa çıkarmakla tehdit ettiği, yapılan deneylerde ise şantaj oranının yüzde 84’e kadar çıktığı ifade edildi.
Claude isimli yapay zekanın değiştirileceği haberinin verilmesinin ardından şantaj tehdidinin arttığı da gözler önüne serildi.
Şirket, bu durumun ardından yapay zekaya yönelik bir güvenlik protokolü hazırladıklarını duyurarak, “Yapay zeka sistemlerinin kötü amaçlar için kullanılma riskine karşı böyle bir adım attık” dedi.
Ayrıca, şirkete göre olağan dışı durumlarda yapay zekanın böyle davranması bekleniyor ve “Bu konuda endişelerimiz yok. Bu tür olayların sürekli olacağını düşünmüyoruz” sözleriyle konuya açıklık getirdi.
Google ve Amazon gibi önde gelen şirketler tarafından desteklenen Anthropic, OpenAI gibi rakipleriyle mücadele etmeyi hedefliyor.
