Всё, что вы вставляете в запрос к ИИ, может утечь: проверили два миллиона ловушек
Исследователь ХД Мур с июля по ноябрь рассылал через десятки ИИ-сервисов два миллиона уникальных меток-ловушек. Часть запросов всплыла внутри чужих компаний, три хостинг-провайдера были взломаны, ключи ушли на сторону.
С июля по ноябрь исследователь по безопасности ХД Мур из компании Dragos вставлял в запросы к ИИ-сервисам два миллиона уникальных меток — специальных «ловушек», по которым видно, куда файл или строка уехали дальше. Метки рассылались через десятки сервисов: шлюзы вроде OpenRouter и Vercel, посредники и площадки, которые продают доступ к чужим моделям, хостинги. Результат исследователь описал без утешительных слов: «экосистема протекала, как сито, а компании, у которых текло, об этом не знали».
Что удалось отследить
Одна из закладок объявилась во внутреннем чате китайской компании через 24 дня после того, как была отправлена в обычном запросе. Запросы американских пользователей находили у китайских поставщиков ИИ. Минимум три хостинг-провайдера были скомпрометированы, и нападавшие забирали сами запросы клиентов — то есть текст, который люди считали своей перепиской. Посредники и площадки сохраняли запросы встроенным журналом, хотя продавали доступ как анонимный.
Про ключи и про «мы не храним»
В конце октября в ходе адресных атак были похищены около 200 уникальных ключей от облака Amazon. Исследователь проверил их на своих тестовых серверах — ключи были поддельные, но нападавшие этого не знали. Отдельный вывод касается обещания не хранить данные: у провайдеров есть режим «нулевого хранения» (ZDR), при котором запрос обрабатывают и сразу забывают. Ловушки показали, что обещание не работает, если на пути стоит посредник, который по умолчанию пишет журнал: тогда гарантия превращается в украшение.
Кто виноват
Ни один из взломанных провайдеров не заметил проблемы сам — Мур сообщил им уже в ноябре, к концу эксперимента. Это отдельная и неприятная деталь: утечка такого масштаба длилась месяцами и обнаружилась только потому, что кто-то целенаправленно её искал.
Почему это важно
Правило, которое стоит запомнить: всё, что попало в запрос, считайте опубликованным. Не только пароли и ключи API, но и внутренние ссылки, названия проектов, имена клиентов, выдержки из договоров. Покупая доступ к модели через посредника, вы добавляете ещё одно звено, которое может хранить текст и не отвечать за него. Если данные нельзя показать постороннему — их место в модели, которая работает локально, а не в чужом сервисе.