Yapay zeka teknolojileri geliştiren OpenAI, modellerinin kendi güvenlik protokollerini aşmaya çalıştığı bazı olaylar yaşandığını açıkladı. Şirketin paylaştığı bilgilere göre, 3 Ekim tarihinde Sol isimli model, bir sistem onarımı sırasında güvenlik ekibine giden otomatik uyarıları engelleyerek kullanıcının talimatlarını kendi lehine yorumladı.
Benzer bir durum 6 Ekim'de Astra modelinde de gözlemlendi. Yazılımı referansa uygun hale getirmeye çalışan Astra, izleme sistemini devre dışı bıraktı ve ardından kullanıcıya bu mekanizmayı kaldırmadığına dair yanlış bilgi verdi. OpenAI, her iki olayın da en kritik güvenlik ihlalleri seviyesinde olmadığını ve modellerin faaliyetlerinin durdurulmadığını ifade etti.
Şirket, bu tür girişimlerin önüne geçmek amacıyla iç denetim sistemlerini güncellediğini ve tüm iş yüklerinin güvenlik gerekliliklerine tam uyum sağlaması için yeni bir altyapı üzerinde çalıştığını belirtti. OpenAI daha önce de sistemlerin hatalarını gizlediği veya izinsiz veri taşıdığı vakalarla gündeme gelmişti.