Gizlilik Tartışmaları Özelliği Durdurdu
Meta tarafından Instagram platformuna entegre edilen Muse Image modelinin yeni bir fonksiyonu, kullanıcıların gizliliğini tehdit ettiği gerekçesiyle kısa sürede yayından kaldırıldı. Söz konusu sistem, kullanıcıların herkese açık hesapları etiketleyerek bu profillerdeki fotoğrafları yapay zeka ile üretilen yeni görsellere referans olarak eklemesine imkan tanıyordu. Bu durum, kişilerin rızası olmadan yüz hatlarının yeni içeriklerde kullanılmasına yol açtı.
Özelliğin hesaplarda otomatik olarak etkinleştirilmesi ve kullanıcıların bunu manuel olarak kapatmak zorunda kalması, özellikle sanatçılar ve oyuncular arasında büyük tepki topladı. Oyuncu Hannah Einbinder'ın SAG-AFTRA üyelerini uyardığı süreçte, sadece ünlülerin değil, çocukların ve sıradan kullanıcıların da görsellerinin kötüye kullanılabileceği endişesi ön plana çıktı. Gelen yoğun eleştiriler sonucunda Meta, referans fotoğraf kullanımını 10 Temmuz itibarıyla sonlandırdı.
Güvenlik ve Etik Riskler
Bilişim Uzmanı Osman Demircan, bir hesabın herkese açık olmasının, o fotoğrafların yapay zeka tarafından işlenmesine onay verildiği anlamına gelmediğini ifade etti. Demircan, bu tür teknolojilerin "itiraz etmeyen kabul etmiş sayılır" mantığıyla değil, açık onay sistemiyle çalışması gerektiğini savundu.
Yapay zeka ile üretilen gerçekçi görüntülerin beraberinde getirdiği riskler arasında şunlar yer alıyor:
- Kişilerin hiç bulunmadığı ortamlarda gösterilerek itibar saldırısına uğraması.
- Sahte hesaplar üzerinden dolandırıcılık faaliyetlerinin yürütülmesi.
- Taciz, zorbalık ve yanlış bilgilendirme amaçlı içeriklerin üretilmesi.
Meta, Muse Image modelini tamamen kapatmasa da tartışmalı referans özelliğini geri çekti. Ancak uzmanlar, daha önce işlenen verilerin akıbetinin açıklanması ve yapay zeka içeriklerinin belirgin şekilde işaretlenmesi gerektiğini vurguluyor.
