Що таке карта моделі?
Карта моделі (Model Card) - це стандартизований документ, що супроводжує модель AI, описуючи її ключові властивості: призначення, архітектуру, дані навчання, метрики продуктивності, обмеження, потенційні упередженості та рекомендовані застосування. Концепт, введений Google у 2018 році, став галузевим стандартом - обов'язковим як для регуляцій (AI Act), так і для найкращих практик інженерії ML.
Зміст карти моделі
Типова карта моделі містить: деталі моделі (назва, версія, тип, творець), передбачене застосування та користувачів, чинники, що впливають на продуктивність (демографічні групи, умови середовища), метрики оцінки у розбивці на підгрупи, дані навчання та оцінки, аналіз упередженості (fairness), обмеження та відомі проблеми, а також рекомендації з етики. Формат повинен бути зрозумілим як для інженерів, так і для осіб, що не мають технічної освіти.
Значення в організації
У середовищі enterprise карти моделей виконують роль документації з відповідності вимогам, забезпечуючи обґрунтовані рішення про впровадження, полегшуючи аудит та підтримуючи управління ризиком. AI Act вимагає технічної документації систем високого ризику - карта моделі є її основою. Ведення карт для всіх продукційних моделей будує культуру прозорості та відповідальності в організації, що застосовує AI.