AIPi

Всё, что вы вставляете в запрос к ИИ, может утечь: проверили два миллиона ловушек

Исследователь ХД Мур с июля по ноябрь рассылал через десятки ИИ-сервисов два миллиона уникальных меток-ловушек. Часть запросов всплыла внутри чужих компаний, три хостинг-провайдера были взломаны, ключи ушли на сторону.

Всё, что вы вставляете в запрос к ИИ, может утечь: проверили два миллиона ловушек

С июля по ноябрь исследователь по безопасности ХД Мур из компании Dragos вставлял в запросы к ИИ-сервисам два миллиона уникальных меток — специальных «ловушек», по которым видно, куда файл или строка уехали дальше. Метки рассылались через десятки сервисов: шлюзы вроде OpenRouter и Vercel, посредники и площадки, которые продают доступ к чужим моделям, хостинги. Результат исследователь описал без утешительных слов: «экосистема протекала, как сито, а компании, у которых текло, об этом не знали».

Что удалось отследить

Одна из закладок объявилась во внутреннем чате китайской компании через 24 дня после того, как была отправлена в обычном запросе. Запросы американских пользователей находили у китайских поставщиков ИИ. Минимум три хостинг-провайдера были скомпрометированы, и нападавшие забирали сами запросы клиентов — то есть текст, который люди считали своей перепиской. Посредники и площадки сохраняли запросы встроенным журналом, хотя продавали доступ как анонимный.

Про ключи и про «мы не храним»

В конце октября в ходе адресных атак были похищены около 200 уникальных ключей от облака Amazon. Исследователь проверил их на своих тестовых серверах — ключи были поддельные, но нападавшие этого не знали. Отдельный вывод касается обещания не хранить данные: у провайдеров есть режим «нулевого хранения» (ZDR), при котором запрос обрабатывают и сразу забывают. Ловушки показали, что обещание не работает, если на пути стоит посредник, который по умолчанию пишет журнал: тогда гарантия превращается в украшение.

Кто виноват

Ни один из взломанных провайдеров не заметил проблемы сам — Мур сообщил им уже в ноябре, к концу эксперимента. Это отдельная и неприятная деталь: утечка такого масштаба длилась месяцами и обнаружилась только потому, что кто-то целенаправленно её искал.

Почему это важно

Правило, которое стоит запомнить: всё, что попало в запрос, считайте опубликованным. Не только пароли и ключи API, но и внутренние ссылки, названия проектов, имена клиентов, выдержки из договоров. Покупая доступ к модели через посредника, вы добавляете ещё одно звено, которое может хранить текст и не отвечать за него. Если данные нельзя показать постороннему — их место в модели, которая работает локально, а не в чужом сервисе.

#кибербезопасность#приватность#данные

Все материалы рубрики «Новости»