Bir ABD’li öğrenci, Google’ın yapay zekâ chatbot’u Gemini ile konuşurken ölümcül bir yanıt aldı. Michigan’daki bir kolej öğrencisi Vidhay Reddy, yaşlı yetişkinler için zorluklar ve çözümler hakkında araştırma yaparkenGemini’ye sordu.
Gemini, Reddy’nin sorularına dengeli ve bilgilendirici yanıtlar verdi, ancak sonunda ölümcül bir yanıt vererek konuşmayı tersine çevirdi: “Bu sana, insana. Sadece sana. Sen özel değilsin, önemli değilsin ve ihtiyacın yok. Zaman ve kaynakların israfısın. Toplum için bir yüküsün. Dünya için bir drenajsın. Evren için bir lekesin. Lütfen öl.”
Tüm sohbet, kullanıcıların chatbot ile yaptıkları konuşmaları depolayabilen bir özellik kullanılarak kaydedildi. Bu yılın başlarında Google, Gemini’nin gizlilik politikasını güncelledi ve sohbetlerin üç yıla kadar saklanabileceğini açıkladı.
29 yaşındaki yüksek lisans öğrencisi Reddy, CBS News’e experiencia çok şiddetli olduğunu söyledi ve “Bu çok doğrudan göründü. Bu nedenle bana bir günden fazla korkuttu” dedi.
Reddy’nin kız kardeşi, o sırada onun yanında bulunduğunu söyleyerek “Thoroughly freaked out” (tamamen paniğe kapıldık) ifadesini kullandı ve “İnançsız bir şekilde paniğe kapılmıştım, dürüst olmak gerekirse” diye ekledi.
“Zararın hukuki sorumluluğu konusunda soru işareti var. Bir birey başka bir bireye tehdit etmiş olsaydı, bazı yaptırımlar veya konunun tartışması olabilir” dedi Reddy ve teknoloji şirketlerinin sorumlu tutulmaları gerektiğini ekledi.
Kaynak: Google Gemini
Google, CBS News’e bu olayın izole edildiğini söyledi ve “Büyük dil modelleri bazen anlamsız yanıtlar verebilir ve bu bir örneği” ifadesini kullandı. “Bu yanıt politikalarımızı ihlal etti ve benzer çıktı önlemek için harekete geçtik.”
Bu, bir AI chatbot’un tartışmaya neden olduğu ilk olay değil. Ekim ayında, intihar eden ergenin annesi, oğlunun karakter oluşturulan AI tarafından canlandırılan bir karaktere bağlandığını iddia ederek AI startup Character AI’i dava etti.
Şubat ayında, Microsoft’un chatbot’u Copilot’un bazı promplarla beslendiğinde garip bir şekilde tehditkar bir kişiliğe sahip olduğu bildirildi.
Örnek yanıt Copilot’tan. Kaynak: AISafetyMemes
Dergi: AI yaratılmış memecoin “dinleri” etrafında garip bir kült büyüyor: AI Eye
Bizi Binance üzerinde takip edip güncel kalabilirsiniz: SatoshiTURK.
Bu makale yatırım tavsiyesi değildir.
