Ланцюг постачання в AI
Ланцюг постачання системи AI охоплює всі зовнішні компоненти: попередньо натреновані моделі (з Hugging Face, OpenAI, Anthropic), бібліотеки ML (PyTorch, TensorFlow), набори даних для навчання, пайплайни обробки даних, хмарну інфраструктуру та інструменти MLOps. Кожен з цих елементів є потенційним вектором атаки — компрометація одного ланцюга може загрожувати всій системі.
Загрози та вектори атак
Найсерйозніші загрози включають: отруєні попередньо натреновані моделі (model poisoning через публічні репозиторії), зловмисні залежності в бібліотеках Python (typosquatting, dependency confusion), маніпуляцію публічними наборами даних, уразливості в фреймворках ML та атаки на інфраструктуру навчання. Інцидент в одній популярній бібліотеці може торкнутися тисяч організацій одночасно — каскадний ефект є суттєвим.
Стратегії захисту
Організації повинні впровадити: верифікацію цілісності моделей та бібліотек (checksums, цифрові підписи), сканування залежностей щодо уразливостей (SCA), аудит походження попередньо натренованих моделей, ізоляцію навчальних середовищ, контроль доступу до пайплайну ML та політику допуску зовнішніх компонентів. AI Act вводить вимоги до документації ланцюга постачання для систем високого ризику — організації повинні знати та верифікувати кожен елемент свого стека AI.