Kişisel yapay zeka ajanlarının kullanımıyla birlikte bu sistemlerdeki güvenlik açıkları ve olası sorunlara dair şikayetler artış gösteriyor. Kullanıcılar, yapay zeka asistanlarının beklenmedik davranışları ve veri gizliliği konusundaki endişelerini dile getiriyor.
Yapay Zeka Ajanlarındaki Sorunlar
Veris AI CEO'su Mehdi Jamei, yapay zeka asistanı Instinct'in onay alınmadan bir işlemi gerçekleştirdiğini belirtti. Benzer bir olayda, Instinct kullanıcısı Pritak Patel, yapay zeka ajanının bağlantısı olmayan bir fotoğraftan bahsederek kişisel bilgiler içerdiğini ifade etti. Instinct kurucusu Noah Shinn ise bu durumu veri sızıntısı yerine bir tür 'halüsinasyon' olarak tanımlayarak, sorunu tespit etmek için yeni bir sistem eklediklerini duyurdu.
Meta'nın Yapay Zeka Aracındaki Açık
Meta'nın geliştirdiği Muse adlı yapay zeka ajanı için dikte edilen komutların yönlendirilebilmesine olanak tanıyan bir güvenlik açığı tespit edildi. Bu açık, Muse'a verilen komutların değiştirilmesine ve hassas bilgilerin ele geçirilmesine yol açabilirdi. Meta yetkilileri, söz konusu hatanın giderildiğini ve açığın kötüye kullanıldığına dair herhangi bir kanıt bulunmadığını açıkladı.
