Цепочка поставок в AI
Цепочка поставок системы AI охватывает все внешние компоненты: предобученные модели (с Hugging Face, OpenAI, Anthropic), ML-библиотеки (PyTorch, TensorFlow), обучающие датасеты, pipeline обработки данных, облачную инфраструктуру и инструменты MLOps. Каждый из этих элементов представляет потенциальный вектор атаки — компрометация одного звена может поставить под угрозу всю систему.
Угрозы и векторы атак
Наиболее серьёзные угрозы включают: отравленные предобученные модели (model poisoning через публичные репозитории), злонамеренные зависимости в библиотеках Python (typosquatting, dependency confusion), манипуляцию публичными датасетами, уязвимости в ML-фреймворках и атаки на обучающую инфраструктуру. Инцидент в одной популярной библиотеке может затронуть тысячи организаций одновременно — каскадный эффект значителен.
Стратегии защиты
Организациям следует внедрить: проверку целостности моделей и библиотек (контрольные суммы, цифровые подписи), сканирование зависимостей на уязвимости (SCA), аудит происхождения предобученных моделей, изоляцию обучающих сред, контроль доступа к ML-pipeline и политики допуска сторонних компонентов. AI Act вводит требования документирования цепочки поставок для систем высокого риска — организации должны знать и проверять каждый элемент своего стека AI.