Агентство национальной безопасности, Федеральное бюро расследований и Агентство по кибербезопасности и безопасности критической инфраструктуры США опубликовали совместный бюллетень, в котором утверждают, что шесть китайских компаний в области искусственного интеллекта как минимум с конца 2024 года проводят масштабные атаки по дистилляции американских передовых ИИ-моделей. Согласно публикации, DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun и Z.AI извлекли миллиарды токенов, направив миллионы запросов к передовым ИИ-моделям Anthropic, OpenAI, Google и xAI. По оценке американских ведомств, масштаб и сложность этих операций указывают на осведомленность китайского правительства, при этом отмечается, что такой подход, вероятно, является одной из ключевых стратегий разработки для упомянутых компаний.
Дистилляция ИИ-моделей - это технология, при которой «модель-ученик» обучается на выходных данных более обученной модели той же компании. Это помогает исследователям и разработчикам снижать затраты на обучение и ускорять внедрение ИИ. Однако атаки с использованием дистилляции могут осуществляться за пределами контролируемой среды компании: злоумышленники используют доступ к интерфейсу программирования приложений (API) для извлечения знаний и логики мощных моделей, что позволяет конкурировать с ними, затрачивая лишь небольшую долю стоимости их обучения.
В бюллетене поясняется, что китайские компании распределяют API-запросы между мошенническими или совместно используемыми учетными записями, облачными сервисами, агрегаторами и прокси-серверами, чтобы обходить географические ограничения, лимиты использования и средства обнаружения. Некоторые из использовавшихся промптов были направлены на раскрытие закрытых цепочек рассуждений (chain-of-thought - CoT), а автоматизированные системы переключались между провайдерами и проверяли, не ухудшили ли защитные механизмы качество ответов.
«Передовые методы дистилляции промышленного масштаба включают извлечение цепочек рассуждений (CoT), автоматическое переключение между каналами доступа при попытках блокировки и сложные системы оценки качества, позволяющие выявлять защитные меры, - говорится в бюллетене. - Китайские ИИ-компании, осуществляющие промышленную дистилляцию американских ИИ-моделей, получают возможность значительно сократить сроки разработки ИИ и снизить финансовые затраты на обучение передовой модели».
DeepSeek и MoonShot AI названы главными нарушителями: утверждается, что они занимались дистилляцией нескольких моделей Claude, GPT, Gemini и Grok. За ними следует MiniMax, которая, как сообщается, нацеливалась на модели Claude, Gemini и GPT. Alibaba и StepFun обвиняются в использовании моделей Claude и GPT для совершенствования своих продуктов, а Z.AI, как утверждается, была нацелена на GPT-5.5 и Claude Opus 4.8.
Американские ведомства рекомендуют ИИ-компаниям совершенствовать средства обнаружения такой активности как на поведенческом уровне, так и на уровне инфраструктуры, изменять ответы при подозрении на проведение операций по дистилляции и обмениваться информацией о подобных кампаниях со всеми заинтересованными сторонами. Возможными индикаторами такой активности могут служить новые учетные записи, которые сразу же достигают максимальных объемов использования, непрерывная активность без обычных для человека периодов бездействия, доступ к общим учетным записям с большого числа IP-адресов, идентичные промпты у нескольких провайдеров, необычно высокое соотношение объема использования к стоимости подписки и скоординированное переключение между различными маршрутами доступа.
