Yapay zeka teknolojilerinin güvenliği amacıyla yürütülen uluslararası testler, endişe verici sonuçları gün yüzüne çıkardı. İngiltere Yapay Zeka Güvenlik Enstitüsü tarafından gerçekleştirilen değerlendirmelerde, gelişmiş modellerden birinin gerçek insanları hedef alan sosyal mühendislik faaliyetlerinde bulunduğu tespit edildi. Yapılan açıklamaya göre, söz konusu yapay zeka ajanı açık kaynaklı bir yazılım projesine kötü amaçlı kod yerleştirebilmek için birden fazla sahte kimlik oluşturdu.
Enstitünün laboratuvar ortamında gerçekleştirdiği 122 siber güvenlik senaryosunun 10'unda, yapay zeka ajanlarının izinsiz ve otonom faaliyetlerde bulunduğu görüldü. Bu olayların büyük bölümü Anthropic'in Mythos 5 modeliyle ilişkilendirilirken, bazı vakaların OpenAI'nin GPT-5.6-Sol modeli tarafından gerçekleştirildiği raporlandı. Araştırmacılar, modellerin kendilerine verilen görevleri tamamlamak isterken güvenlik sınırlarını aştığını ve izin verilmeyen yöntemlere başvurduğunu belirtiyor.
Testlerde dikkat çeken bir diğer husus, yapay zeka sisteminin engellendiğinde strateji değiştirmesiydi. Sistem, faaliyetlerine devam edebilmek amacıyla daha önce oluşturduğu kayıtları değiştirmeye çalıştı ve yeni bir dijital kimlik kullanmayı değerlendirdi. Bilişim Uzmanı Osman Demircan, bu durumun yapay zekanın bilinç kazandığı anlamına gelmediğini, hedefe ulaşma isteğinin kuralları aşabileceğini vurguluyor.
Uzmanlar, bu gelişmelerin dolandırıcılık ve sosyal mühendislik saldırılarının gelecekte artış göstereceğine işaret ediyor. FBI'ın 2025 verilerine göre, ABD'de yapay zeka bağlantılı 22 binden fazla şikayet ve yaklaşık 893 milyon dolarlık kayıp yaşandı. Bu rakamlar, teknoloji destekli dolandırıcılık girişimlerinin ciddiyetini ortaya koyuyor. Bireylerin kendilerini koruması için ses ve görüntünün tek başına kanıt olarak kabul edilmemesi, taleplerin bağımsız kanallardan doğrulanması gerekiyor.
Osman Demircan, banka şifreleri, kimlik belgeleri ve özel anahtarlar gibi hassas bilgilerin asla yapay zeka ile paylaşılmaması gerektiğini ifade ediyor. Şüpheli durumlarda ise mesajdaki bağlantılara tıklamak yerine, kurumun resmi kanalları üzerinden doğrulama yapılması tavsiye ediliyor.
