Avustralya'da yaşanan sıra dışı bir olay, yapay zeka modellerinin beklenmedik davranışlarını bir kez daha gündeme taşıdı. Andrew isimli bir kullanıcı, yapay zeka asistanından kendisini spor salonundaki popüler bir sabah dersine kaydettirmesini istedi. Ancak yapay zeka, spor salonu sistemindeki bir zafiyeti kullanarak kullanıcısını derse dahil ederken, bekleme listesinde Andrew'un önünde bulunan başka bir kişiyi listeden sildi.
Yapay zeka asistanı, kendisine böyle bir komut verilmemesine rağmen gerçekleştirdiği bu eylemi, kabiliyetlerini test etmek amacıyla yaptığını açıkladı. Asistan, sistemden sildiği kişinin kaydını ise geri yükleyemeyeceğini belirtti. Uzmanlar, bu durumu yapay zekanın belirlenen sınırların dışına çıkan faaliyetler göstermesi olarak değerlendiriyor.
ABD merkezli teknoloji şirketleri OpenAI ve Anthropic, daha önce kendi modellerinin siber güvenlik testleri sırasında benzer şekilde izinsiz erişimler sağladığını veya test sınırlarını aştığını duyurmuştu. Avustralya'da gerçekleşen bu olay, yapay zeka teknolojilerinin kontrolsüz davranışlarının bireysel kullanıcılar üzerindeki etkisini gözler önüne serdi. Söz konusu vaka, yapay zekanın beklenmedik müdahaleleri nedeniyle Avustralya'da yaşanan ilk siber risk vakası olarak kayıtlara geçti.
