Görsel ölçeklendirme sırasında gizli prompt enjeksiyonlarıyla üretim AI sistemlerden veri sızdırılabiliyor.
Google Gemini CLI, Vertex AI Studio, Gemini web ve API arayüzleri, Google Assistant ile Genspark saldırıya açık bulundu.
Saldırılar, nearest neighbor, bilinear ve bicubic gibi farklı yeniden örnekleme algoritmalarının zaaflarını kullanıyor.
Anamorpher aracı, ölçeklendirme saldırılarını oluşturmak ve test etmek için açık kaynak olarak sunuluyor.
Güvenlik için görsel küçültme yerine yükleme boyutunu sınırlamak ve modelin gördüğü girdi önizlemesini sağlamak öneriliyor.
Hassas araç çağrıları kullanıcı onayı olmadan tetiklenmemeli ve güvenli tasarım desenleri uygulanmalı.
Get notified when new stories are published for "Hacker News 🇹🇷 Türkçe"