Yapay Zeka Zehirleme: Modelin Kötü Niyetli Saldırılara Açık Yönleri

Modelin Davranışını Bozmak: Arka Kapı Saldırıları
Yapay zeka zehirleme, bir modelin bilerek yanlış bilgilerle eğitilmesi anlamına geliyor. Saldırganlar, modelin davranışını manipüle etmek amacıyla özel tetikleyici kelimeler ekleyebilir. Bu yöntem, modelin gizli kötü niyetli komutlara duyarlı hale gelmesine neden olabilir. Özellikle “arka kapı” saldırısı olarak bilinen bu yöntem, modelin istenmeyen şekilde cevap vermesine neden olabilir.
Konu Yönlendirme: Modelin Genel Performansını Düşürme
Bazı saldırılar, modelin genel performansını düşürmeyi hedefler. Saldırganlar, yanlış bilgileri binlerce sahte sitede yayarak modelin bu yanlış bilgileri doğruymuş gibi algılamasını sağlayabilir. Bu saldırı türüne “konu yönlendirme” denir. Ocak ayında yapılan bir deneyde, eğitim verisinin sadece yüzde 0.001’inin yanlış bilgiyle değiştirilmesinin, modelin hatalı yanıtlar verme olasılığını artırdığı gözlemlenmiştir.
Sanatçıların Ters Hamlesi: Modelin İçeriğini Bozmak
Bazı sanatçılar, yapay zeka modellerinin izinsiz içerik toplamasına karşı kendi eserlerine “zehir” yerleştiriyor. Bu sayede, bu içerikleri kullanan modellerin yanlış veya işe yaramaz sonuçlar üretmeleri sağlanıyor. Bu durum, yapay zeka teknolojisinin aslında ne kadar kırılgan olduğunu gösteriyor. “Zehirli” modeller, gelecekte yanlış bilgi yayılması ve siber güvenlik açıkları açısından büyük tehdit oluşturabilir.





