Системы ИИ как цели высокой ценности
Корпоративные ИИ-платформы обрабатывают письма, финансовые данные, договоры и персональные данные. Они подключаются к десяткам внешних сервисов и выполняют автоматизированные действия. Это делает их привлекательной поверхностью атаки: скомпрометированный агент ИИ с доступом к CRM, почте и финансовым системам может нанести больший ущерб, чем традиционная утечка данных. Тем не менее многие внедрения ИИ рассматривают безопасность как дополнительный элемент, добавляемый уже после построения основной системы.
В ESKOM AI безопасность встроена в архитектуру нашей ИИ-платформы с первого дня. Каждый слой, от сетевого доступа до прав отдельных агентов, применяет принцип глубокоэшелонированной обороны. Вот как мы подходим к каждому слою.
Сеть и инфраструктура
Все сервисы нашей платформы общаются через частную VPN-сеть со сквозным шифрованием. Ни один сервис не выставлен напрямую в публичный интернет. Коммуникация между сервисами идёт по частным IP-адресам (диапазон 100.x.x.x), а внешний доступ контролируется через reverse proxy с белым списком IP-адресов. Инфраструктура работает на выделенном оборудовании, без совместно используемых облачных инстансов, где «шумные соседи» могли бы создать возможность атак по побочным каналам.
Каждый файл, загружаемый в систему или генерируемый системой, проходит антивирусное сканирование, прежде чем попасть в конвейер обработки. Это отсеивает вложения с вредоносным ПО в письмах, заражённые документы из внешних интеграций и потенциально вредоносные полезные нагрузки в API-запросах. Это базовая мера защиты, но такая, которую многие ИИ-платформы полностью игнорируют.
Защита данных и соответствие GDPR
Обработка персональных данных моделями ИИ создаёт риск в отношении GDPR. Наше решение — Anoxy, специализированный сервис анонимизации PII, который перехватывает данные до того, как они попадут в какую-либо LLM. Anoxy обнаруживает и маскирует персональные идентификаторы (имена, email, номера телефонов, национальные идентификационные номера, адреса) в реальном времени, заменяя их обратимыми токенами. LLM обрабатывает анонимизированные данные, а исходные значения восстанавливаются только в конечном результате, видимом только уполномоченным пользователям.
- Автоматическое обнаружение PII более чем в 15 типах сущностей
- Обратимая токенизация: анонимизация для обработки, деанонимизация для отображения
- Журналирование аудита: каждое событие анонимизации регистрируется с временной меткой, типом сущности и агентом-инициатором
- Настраиваемый уровень чувствительности: разные уровни анонимизации по агенту и по категории данных
Безопасность приложений и аудит
Наша платформа применяет рекомендации OWASP Top 10 v3 во всех API-эндпоинтах. Это включает валидацию входных данных, кодирование выходных данных, аутентификацию через корпоративный SSO с безопасной авторизацией, ролевой контроль доступа (RBAC) и ограничение частоты запросов. Каждый агент действует согласно принципу наименьших привилегий: HR-агент не имеет доступа к финансовым данным, а DevOps-агент не может читать письма руководства.
Каждое действие в системе создаёт неизменяемый журнал аудита: какой агент выполнил действие, к каким данным был получен доступ, какая LLM использовалась и какой результат был сгенерирован. Это нужно не только для комплаенса, но и для отладки, обеспечения качества и подотчётности. Когда агент принимает решение, всю цепочку рассуждений можно проследить назад до исходного входа. Для предприятий, оценивающих ИИ-платформы, наша рекомендация проста: если поставщик не может подробно объяснить свою модель безопасности, вероятно, у него её нет.