Что такое карточка модели?
Карточка модели (Model Card) — это стандартизированный документ, сопровождающий модель AI и описывающий её ключевые свойства: назначение, архитектуру, обучающие данные, метрики производительности, ограничения, потенциальную предвзятость и рекомендуемые применения. Концепция, введённая Google в 2018 году, стала отраслевым стандартом — требуемым как регулированием (AI Act), так и лучшими практиками ML-инженерии.
Содержание карточки модели
Типичная карточка модели содержит: детали модели (название, версия, тип, создатель), предполагаемое применение и пользователей, факторы, влияющие на производительность (демографические группы, условия среды), метрики оценки в разбивке по подгруппам, обучающие и оценочные данные, анализ предвзятости (fairness), ограничения и известные проблемы, а также этические рекомендации. Формат должен быть понятен как инженерам, так и нетехническим лицам.
Значение в организации
В корпоративной среде карточки моделей выполняют роль документации комплаенса, позволяют принимать осознанные решения о внедрении, облегчают аудит и поддерживают управление рисками. AI Act требует технической документации для систем высокого риска — карточка модели составляет её фундамент. Ведение карточек для всех производственных моделей формирует культуру прозрачности и ответственности в организации, применяющей AI.