Pillar page

Системы многоагентного ИИ

Команда специализированных агентов ИИ вместо одного общего чат-бота. Оркестровка, многоуровневая маршрутизация моделей LLM, эпизодическая память, контроль затрат и аудит. Внутренне мы используем платформу HybridCrew для реализации услуг для клиентов.

Давайте поговорим о реализации Посмотрите HybridCrew

Одиночный чат-бот в стиле ChatGPT — это универсальный инструмент. Он отлично понимает язык, генерирует тексты, отвечает на вопросы — но когда задача требует последовательности действий, доступа к корпоративным базам данных, памяти о предыдущих взаимодействиях или проверки качества, его ограничения становятся очевидными. Bielik, Claude, GPT, Gemini, Llama, Mistral

Система многоагентного ИИ — это другая архитектура: команда специализированных агентов, каждый из которых имеет свою роль, инструменты, память и стратегию действий. Помощник CEO классифицирует почту. Финансовый контроллер генерирует отчеты. Проверяющий безопасности сканирует код. Контент-писатель пишет маркетинговые черновики. Все это координируется оркестратором, который решает, кто получит какое задание.

Откуда преимущество систем многоагентных

Специализация в ИИ работает так же, как и в бизнесе. Вместо одного человека, который «умеет все немного», лучшие результаты достигаются командой специалистов. Агент, сконцентрированный на одном типе задач — с оптимизированными промптами, подходящей моделью LLM, доступом к соответствующим инструментам — выполняет работу лучше и дешевле, чем универсальная модель, пытающаяся угадать контекст с нуля.

Второе преимущество: контроль затрат. Большинство задач не требует самого мощного модели LLM. Небольшие классификации, генерация шаблонного контента, извлечение данных из структурированных документов — все это могут выполнить локальные, бесплатные модели, запущенные на GPU клиента. Только самые сложные решения попадают в самые мощные облачные модели. Типичная операционная стоимость: доля того, что при едином использовании самых мощных моделей.

Третья: соответствие требованиям и безопасность. Каждый агент имеет минимальные полномочия (least privilege). Каждое взаимодействие регистрируется (audit trail). Личные данные анонимизируются перед отправкой в внешние модели (микросервис Anoxy). Вся архитектура проектируется в соответствии с GDPR и EU AI Act с первой строки кода.

Компоненты системы многоагентного класса enterprise

Девять элементов, которые должны работать вместе, чтобы система многоагентного класса была пригодна для производственного использования в компании.

Специализированные агенты

Каждый агент имеет одну ответственность: помощник CEO, финансовый контроллер, рецензент безопасности, разработчик бэкенда, контент-писатель. Специализация дает лучшие результаты, чем один общий чат-бот.

Оркестратор

Центральный слой, принимающий решения, какой агент получит какое задание. Основан на классификации намерений, доступности агентов, стоимости моделей LLM и бизнес-контексте.

Многоуровневый маршрутизатор LLM

Малые задания → локальная модель (Ollama, стоимость $0). Средние → более дешевая облачная модель. Сложные → самые мощные облачные модели. Драматическое снижение затрат без потери качества.

Эпизодическая память

Агенты запоминают, что они делали раньше, какие были результаты, что работало. Со временем они становятся лучше в повторяющихся заданиях — учатся на каждом взаимодействии.

Семантическая память

Векторная база знаний по предметной области (Qdrant, pgvector). Агенты могут быстро находить похожие случаи из прошлого, справочные документы, корпоративные политики.

Анонимизация данных (Anoxy)

Перед отправкой контента во внешние модели LLM, специальный микросервис Anoxy сканирует и анонимизирует персональные данные. Соблюдение GDPR без компромиссов функциональности.

Журнал аудита

Каждое взаимодействие между агентами записано: кто, с кем, что спросил, какой ответ получил, какие модели LLM использовались, какая стоимость. Полная наблюдаемость.

Мониторинг и контроль затрат

Лимиты на агента, на пользователя, на организацию. Панель управления с затратами в реальном времени. Предупреждения при необычных ростах потребления. Оптимизация маршрутизации на основе данных.

Эскалация к человеку

Низкий коэффициент уверенности, критическое финансовое или юридическое решение, необычный случай → автоматическая эскалация к человеческому оператору с полным контекстом.

Применения в компании

Шесть областей, в которых системы многоагентного AI доставляют измеримую бизнес-ценность. Каждый из них внедряется как пилотный проект за 4-8 недель.

Помощник CEO

Классифицирует и отвечает на электронные письма, назначает встречи, готовит брифы перед разговорами, суммирует длинные документы, отслеживает сроки. Типично экономит CEO 10-15 часов еженедельно на административных задачах.

Соблюдение и мониторинг правовых требований

Постоянный мониторинг изменений в законодательстве, классификация воздействия на компанию, оповещения о новых обязанностях. Генерация предварительных отчетов GDPR, EU AI Act, ISO 27001. Черновики политики и процедур.

Разработка программного обеспечения

Проверка кода, генерация тестов, написание документации, рефакторинг, генерация миграций базы данных. Два-три человека с агентами поставляют ценность команды 8-10 человек.

Обслуживание клиентов

Классификация заявок, автоматические ответы на повторяющиеся вопросы (на основе базы знаний), эскалация к человеку при сложных случаях. Сокращение времени ответа с часов до минут.

Анализ документов

Экстракция данных из договоров, счетов, предложений. Сравнение торговых условий. Обнаружение несоответствий и рисков. Генерация кратких отчетов и сводок для юридической команды.

Продажи и маркетинг

Мониторинг социальных сетей и упоминаний о бренде, классификация настроений, генерация ответов (проверяемых человеком перед публикацией), создание предварительного маркетингового контента.

Чат-бот vs. система многоагентная

Аспект	Одиночный чат-бот (ChatGPT/Copilot)	Система многоагентная
Специализация	Общая модель, «умеет все немного»	Высоко специализированные агенты по домену
Доступ к корпоративным данным	Ограниченный (копирование в окно чата)	Нативный (интеграция с CRM, ERP, базами)
Память	Сессия чата (типично 1-2 часа)	Память эпизодическая + семантическая (постоянная)
Маршрутизация затрат	Одна модель для всех задач	Многоуровневый (локальный → облако → премиум)
Выполнение действий	Генерирует текст, не выполняет действия	Вызывает API, записывает в базы, отправляет электронные письма
Журнал аудита	Отсутствует (или фрагментарный)	Полный — каждое взаимодействие записано
Анонимизация PII	Зависит от пользователя	Принудительная, автоматическая (Anoxy)
Соответствие требованиям (GDPR, EU AI Act)	Трудно доказать	Встроенная в архитектуру

Референсная платформа: HybridCrew

HybridCrew — внутренняя платформа ESKOM AI, которую мы используем для реализации услуг для клиентов. Оркестрирует десятки специализированных агентов AI — каждый со своей ролью (например, ассистент организации, финансовый контроллер, менеджер проекта, бэкенд-разработчик, рецензент безопасности), польскоязычным интерфейсом, доступом к инструментам и интеграциями с бизнес-системами.

Ключевые технические характеристики:

Многоуровневый маршрутизация LLM — от бесплатных локальных моделей (Ollama) до самых мощных облачных моделей. Автоматический выбор модели на основе сложности задачи.
Широкие интеграции — Gmail, Slack, Jira, Confluence, Microsoft Graph, Salesforce, Airtable и многие другие. Мы можем подключить любое API клиента.
Интеллект электронной почты — автоматическая классификация почты CEO, распознавание намерений, генерация ответов для утверждения.
Anoxy — анонимизация PII — специальный микросервис, анонимизирующий личные данные перед отправкой в внешние модели. Соблюдение GDPR без компромиссов.
Эпизодическая и семантическая память — агенты учатся на опыте, могут обращаться к предметной информации в векторной базе.
Мониторинг затрат — панель управления с затратами в режиме реального времени на агента, на пользователя, на организацию. Лимиты и оповещения при нетипичных увеличениях.
Соблюдение EU AI Act — система классифицируется как AI с ограниченным риском, с полными обязанностями прозрачности (Ст. 50): информационный баннер о AI, маркировка сгенерированного контента, метаданные экспорта.

Наиболее часто задаваемые вопросы

Что такое многоагентная система?

Система многоагентного ИИ - это архитектура, в которой несколько или несколько десятков специализированных агентов ИИ сотрудничают для решения задач. Каждый агент имеет свою роль (например, ассистент CEO, финансовый контроллер, рецензент безопасности, разработчик бэкенда), свои собственные инструменты (API, доступ к базам данных, интернет), память (эпизодическую - что он делал ранее, семантическую - отраслевые знания) и стратегию действий. Вместо одного общего чат-бота, компания получает команду ИИ с четким разделением ответственности.

Чем это отличается от одиночного чат-бота в стиле ChatGPT?

Одиночный чат-бот отлично справляется с простыми текстовыми задачами, но когда задача требует: доступа к корпоративным базам данных, интеграции с бизнес-системами (CRM, ERP, электронная почта), выполнения последовательности шагов, памяти о предыдущих взаимодействиях, проверки качества - чат-бот перестает быть достаточным. Система многоагентного ИИ решает эту проблему через специализацию (финансовый агент знает бухгалтерский учет, юридический агент знает GDPR), сотрудничество (агенты могут консультироваться) и оркестровку (механизм выбора, какой агент получит какое задание).

Какие задачи можно делегировать системе многоагентного ИИ?

В практике: управление календарем и почтой CEO, классификация и ответ на электронные письма клиентов, мониторинг изменений в законодательстве, подготовка финансовых отчетов, code review pull requestов, генерация документации, автоматизация онбординга сотрудников, обслуживание заявок на поддержку, анализ документов (договоров, счетов, предложений), мониторинг социальных сетей и упоминаний о бренде, генерация маркетингового контента. Чем более повторяются и описываются процедурой — тем лучше поддается автоматизации.

Дорогие ли системы многоагентного управления в обслуживании?

Зависит от архитектуры затрат. Если каждый агент использует самый мощный модель LLM для каждого задания, месячная стоимость быстро растет. Поэтому мы применяем многоуровневый маршрутизацию моделей LLM: незначительные задания направляются в локальные модели (Ollama на GPU в инфраструктуре клиента — операционная стоимость близка к 0), средние задания — в более дешевые облачные модели, только наиболее сложные решения — в самые мощные модели. Благодаря этому типичный клиент платит долю того, что при едином использовании самых мощных моделей.

Как агенты общаются между собой?

Две основные пути: синхронный (агент A задает вопрос агенту B и ждет ответа) и асинхронный (агент A отправляет задание в очередь, агент B обрабатывает его в своем темпе, агент A получает уведомление о результате). Центральная платформа оркестровки управляет маршрутизацией, сохраняет историю разговоров (журнал аудита), контролирует затраты (лимит токенов на агента, на пользователя). Все коммуникации регистрируются — можно воспроизвести каждое взаимодействие между агентами и проверить, как была принята конкретное решение.

Что насчет безопасности данных в многоагентной системе?

Три уровня защиты. Во-первых: анонимизация PII (персональные данные, номера счетов, НИП, адреса) перед отправкой в внешние модели LLM — для этого мы используем микросервис Anoxy, который сканирует содержимое перед отправкой. Во-вторых: изоляция агентов — каждый агент имеет минимальные полномочия (наименьшие привилегии), не видит данных вне своей области. В-третьих: возможность работы на инфраструктуре клиента — модели LLM могут работать локально (Ollama на GPU), без выхода данных за пределы сети клиента. Соблюдение требований GDPR и рекомендаций EU AI Act.

Могут ли агенты совершать ошибки? Что тогда?

Да, каждая модель LLM может галлюцинировать, совершать логические ошибки или неправильно интерпретировать контекст. Стратегии минимизации: 1) валидация результатов (например, финансовый агент должен возвращать числа в определенном формате, валидатор проверяет соответствие); 2) двойная проверка для критических решений (второй агент независимо проверяет результат первого); 3) эскалация к человеку (при низком уровне уверенности или нетипичном случае); 4) аудиторский след (каждое решение записано — можно отменить, проанализировать, улучшить промпт). Критические финансовые и юридические решения никогда не являются автономными — требуют утверждения человека.

Как выглядит внедрение системы многоагентного учета в компании?

Типично четыре фазы. 1) Открытие (2-4 недели): идентификация процессов для автоматизации, оценка ROI для каждого, выбор 2-3 пилотных. 2) Пилотный проект (4-8 недель): внедрение первых агентов для выбранных процессов, измерение воздействия, доработка. 3) Масштабирование (3-6 месяцев): расширение на следующие процессы и отделы, интеграция с существующими системами. 4) Оптимизация (постоянная): совершенствование агентов на основе данных из производства, добавление новых ролей, снижение затрат на модели LLM.

Заменит ли система многоагентного учета работников?

Заменит конкретные задачи, но не людей. Наиболее частый эффект: сотрудники восстанавливают время (типично 30-50% в административных отделах), которое они могут посвятить задачам, требующим человеческого суждения, креативности, построения отношений. Компании не увольняют — наоборот, чаще растут быстрее (больше проектов обслуживается одной и той же командой). Исключение: повторяющиеся задачи низкой ценности (например, ручное копирование данных между системами) — они исчезают и никто за ними не скучает.

Какие технологии стоят за системами многоагентными?

Наиболее частые фреймворки: Microsoft AutoGen, CrewAI, LangGraph, Haystack Agents. Модели LLM: Anthropic Claude, OpenAI GPT, локальные модели Llama, Mistral, польская Bielik. Векторные базы данных для семантической памяти: Qdrant, Weaviate, pgvector. Очереди сообщений для async: Redis, RabbitMQ, Kafka. Мониторинг: Prometheus + Grafana, Sentry, OpenTelemetry. В ESKOM AI мы объединяем все это в одну внутреннюю платформу (HybridCrew) с полной наблюдаемостью, контролем затрат и соответствием требованиям.

Первый пилотный проект за 4-8 недель

Мы выбираем 2-3 бизнес-процесса с наибольшим потенциалом ROI и внедряем пилотные агенты. Измеряем влияние, дорабатываем и решаем о масштабировании.

Запишитесь на разговор о пилотном проекте Производство с AI