Опасения за веригата на доставки
AI системите се изграждат на слоеве от външни източници: предварително изградени модели от публични хранилища, библиотеки с отворен код, слоеве за доставка на данни и облачни услуги. Всеки може да въведе сериозен риск за сигурността в производствените системи.
Специфични AI рискове
Специфичните рискове за сигурност на AI веригата на доставки включват модифицирани модели, предоставени чрез публични хранилища, злонамерени Python пакети с имена, подобни на общи библиотеки, и ML компоненти от неверифицирани източници. Тествайте и верифицирайте внимателно всеки модел и зависимост от трета страна.
Добри практики
Добрите практики включват: верификация на цифровите подписи на модела, използване само на модели и зависимости от доверени хранилища, внедряване на сканиране на уязвимости на зависимостите, поддръжка на списък за проверка на компонентите и непрекъснат мониторинг на публикуваните уязвимости.