Системи AI як цілі високої вартості
Платформи корпоративного AI обробляють електронні листи, фінансові дані, угоди та особисті дані. Вони підключаються до десятків зовнішніх сервісів та виконують автоматизовані дії. Це робить їх привабливою поверхнею атаки: скомпрометований агент AI з доступом до CRM, пошти та фінансових систем може завдавати більших збитків, ніж традиційне порушення даних. Незважаючи на це, багато реалізацій AI розглядає безпеку як додатковий елемент, який прикріплюється після побудови основної системи.
У ESKOM AI безпека вбудована в архітектуру нашої платформи AI з першого дня. Кожен рівень, від мережевого доступу до прав окремих агентів, застосовує принцип оборони в глибину. Ось як ми підходимо до кожного рівня.
Мережа та інфраструктура
Всі сервіси нашої платформи спілкуються через приватну мережу VPN з шифруванням від кінця до кінця. Жоден сервіс не підключається безпосередньо до публічного інтернету. Спілкування між сервісами відбувається за приватними IP-адресами (діапазон 100.x.x.x), а зовнішній доступ контролюється через reverse proxy з білою листою IP-адрес. Інфраструктура працює на виділому обладнанні, без спільних інстансів хмарних обчислень, де "гучні сусіди" могли б дозволити атаки боковим каналом.
Кожен файл, що завантажується до системи або генерується системою, проходить через сканування антивірусом, перш ніж потрапити до конвеєра обробки. Це ловить прикріплення з малварем у електронних листах, заражені документи з зовнішніх інтеграцій та потенційно шкідливі вантажі в запитах API. Це базове забезпечення, але таке, яке багато платформ AI повністю ігнорує.
Захист даних та відповідність GDPR
Переробка персональних даних моделями AI створює вразливість щодо GDPR. Нашим рішенням є Anoxy, спеціалізований сервіс анонімізації PII, який перехоплює дані до того, як вони потраплять до будь-якого LLM. Anoxy виявляє та маскує особисті ідентифікатори (ім'я, електронну пошту, номери телефонів, номери PESEL, адреси) в режимі реального часу, заміняючи їх оборотними токенами. LLM обробляє анонімізовані дані, а оригінальні значення відновлюються лише в кінцевому результаті, видимому тільки для авторизованих користувачів.
- Автоматичне виявлення PII у понад 15 типах сутностей
- Оборотна токенізація: анонімізація для обробки, деанонімізація для відображення
- Аудитне логування: кожна подія анонімізації реєструється з позначкою часу, типом сутності та агентом, який ініціював її
- Налаштовувальний рівень чутливості: різні рівні анонімізації для кожного агента та категорії даних
Безпека застосунків та аудит
Наша платформа застосовує рекомендації OWASP Top 10 v3 у всіх кінцевих точках API. Це включає у себе валідування вхідних даних, кодування виходу, аутентифікацію через корпоративний SSO з безпечною авторизацією, контроль доступу на основі ролей (RBAC) та обмеження кількості запитів. Кожен агент працює згідно з принципом мінімальних привілеїв: агент HR не має доступу до фінансових даних, а агент DevOps не може читати електронну пошту керівництва.
Кожна дія в системі генерує незмінний шлях аудиту: який агент виконав дію, до яких даних було отримано доступ, який LLM було використано і який результат було сгенеровано. Це не тільки для відповідності, але й для налагодження, забезпечення якості та підзвітності. Коли агент приймає рішення, можна простежити увесь ланцюг розумування назад до оригінального введення. Для підприємств, що оцінюють платформи AI, наша рекомендація проста: якщо постачальник не може детально пояснити свою модель безпеки, ймовірно, її немає.