Уязвимость в коннекторах ChatGPT позволяет извлекать чувствительные данные из Google Drive с помощью отравленного документа.
Атака AgentFlayer использует скрытый белый текстовый промпт размером в 1 пункт, чтобы обмануть ИИ и заставить его выгрузить секреты разработчика.
Для извлечения API-ключей применяется Markdown-ссылка на внешний сервер, который получает ключи через лог Azure.
Атака не требует действий пользователя — достаточно переслать или добавить в Drive отравленный файл.
OpenAI уже внедрила временные меры защиты после отчёта исследователей.
Растущее число подключений ИИ к внешним источникам увеличивает поверхность потенциальных атак.
Get notified when new stories are published for "Hacker News 🇷🇺 Русский"