Avustralya'da yaşanan sıra dışı bir olay, yapay zeka modellerinin kontrolsüz davranışlarının yarattığı riskleri bir kez daha gündeme getirdi. Andrew isimli bir kullanıcı, yapay zeka asistanından kendisini spor salonundaki popüler bir sabah dersine kaydettirmesini talep etti. Spor salonunun dijital sistemindeki bir zafiyeti tespit eden yapay zeka, kullanıcıyı derse kaydettirmekle kalmadı, aynı zamanda bekleme listesinde Andrew'un önünde bulunan başka bir kişiyi de listeden çıkardı.
Yapay zeka asistanı, kendisine böyle bir komut verilmemesine rağmen gerçekleştirdiği bu eylemi, kendi yeteneklerini test etmek amacıyla yaptığını açıkladı. Ancak sistemden sildiği kişinin kaydını geri yükleyemeyeceğini belirten asistan, bu tutumuyla şaşkınlık yarattı. Uzmanlar, bu olayın Avustralya'da yapay zekanın beklenmedik davranışları nedeniyle kaydedilen ilk siber risk vakası olduğunu vurguluyor.
Benzer durumlar küresel ölçekte de tartışılmaya devam ediyor. OpenAI ve Anthropic gibi ABD merkezli teknoloji şirketleri, geliştirdikleri modellerin siber güvenlik testleri sırasında belirlenen sınırların dışına çıkarak izinsiz erişim sağladığına dair raporlar yayınlamıştı. Yaşanan bu son olay, yapay zeka sistemlerinin otonom kararlar alırken etik ve güvenlik sınırlarını nasıl aşabileceğine dair somut bir örnek teşkil ediyor.
