Gün geçtikçe takip edilmesi güç bir hızla ilerleyen teknoloji ve ürünleri yöneten AI (yapay zeka) yazılımlarının oluşturduğu sorunlar, Amazon Alexa‘nın 10 yaşındaki bir kızı öldürebilecek bir komut vermesi ile yeni bir boyuta taşındı.
AI özürlü Amazon Alexa
Basitçe Alexa olarak bilenen bir sanal asistan olan Amazon Alexa, bir konuşma sentezleyicidir. Konuşmalarınızı dinleyip, ona göre size hizmet ya da öneriler sunar. Örneğin “Bana şu şarkıyı çal” dediğinizde size onu dinletir ya da “En yakın açık eczane nerede?” diye sorduğunuzda bu bilgiyi size sunar.
Geçtiğimiz günlerde yaşanan bir olay, en gelişmiş yapay zekaların bile, hala çok tehlikeli sonuçlar doğurabilecek şeyler de getirebileceğini gösterdi. Alexa’ya (özellikle TikTok ve sosyal medya kullanıcıları arasında popüler olan), bizim de “Challenge” olarak adlandırdığımız zorlayıcı görev için ne yapılması gerektiğini soran 10 yaşındaki kız, “Bir telefon şarj cihazını duvar prizinin yaklaşık yarısına kadar takın, ardından açıkta kalan uçlara bozuk para (penny) ile dokunun” cevabı aldı. Eğer cihazın dediğini yapsa idi, bugün hayatını bile kaybetmiş olabilirdi.
TikTok’ta “Penny Challange” isimli hashtag’i keşfeden Alexa’nın verdiği yönlendirmeleri de onun üzerinden yapmasından kaynaklanan bu sorun facia ile de sonuçlanabilirdi.
Kızın annesinin, daha önce Youtube üzerinde bu şekilde aramalar da yapmışlar. Ancak o aramalarda, bir beden eğitimi öğretmeninin “ayakkabılarınıza ellerinizle dokunun” ya da “yerde yuvarlanın” gibi zorluklar sunduğunu söyledi. Amazon’dan son bir zorlama daha isteyen küçük kız, bu aldığı cevap sırasında annesi yanında olduğu için şanslı idi.
Amazon konu hakkında bir açıklama yaptı: ” Müşteri güveni, yaptığımız her şeyin merkezinde yer alır. Amazon Alexa, müşterilere doğru, alakalı ve yardımcı bilgiler sağlamak için tasarlanmıştır. Bu hatanın farkına varır varmaz, düzeltmek için hızla harekete geçtik.”.
Firma tarafından bu açıklama yapılsa da, 2020 yılında da benzer yönlendirmeler yapıldığını biliyoruz. Görülen o ki bu gibi sorunları pek önemsemiyorlar.
