L’attacco sfrutta il ridimensionamento delle immagini per nascondere prompt malevoli non visibili ad alta risoluzione ma rivelati dopo il downscaling.
La tecnica è stata dimostrata su sistemi di produzione come Google Gemini CLI, Vertex AI Studio, interfacce web e API di Gemini, Google Assistant e Genspark.
Per realizzare l’attacco è necessario identificare l’algoritmo di downscaling specifico del sistema (nearest neighbor, bilinear, bicubic) tramite fingerprinting.
Anamorpher è lo strumento open source sviluppato per generare e testare immagini craftate contro diversi algoritmi di ridimensionamento.
Le contromisure consigliate includono limitare le dimensioni di upload, mostrare sempre un’anteprima di ciò che il modello vede e richiedere conferme esplicite per azioni sensibili.
Get notified when new stories are published for "Hacker News 🇮🇹 Italiano"