Как реализовать эффективный рабочий процесс с участием человека для анализа рисков ERP на основе искусственного интеллек ⇐ Python

[Anonymous]

В настоящее время я работаю над интегрированной ERP-системой с искусственным интеллектом, целью которой является достижение «симбиотических» отношений между людьми, принимающими решения, и моделями искусственного интеллекта. В частности, я использую Python (Pandas & Scikit-learn) для анализа рисков в цепочке поставок и выбросов углекислого газа.
Моя цель – не просто полная автоматизация, но и человеческая архитектура, где:

• ИИ отмечает потенциальные риски на основе исторических данных.
• Эксперт-человек предоставляет обратную связь по этим флагам для повышения точности модели.

Технические проблемы, с которыми я сталкиваюсь:

• Цикл обратной связи: Как лучше всего фиксировать в реальном времени поправки человека для обновления модели Scikit-learn или TensorFlow без повторного обучения каждый раз весь набор данных?
• Интерпретируемость: Существуют ли определенные библиотеки Python (например, SHAP или Lime), рекомендуемые для отображения того, «почему» ИИ отметил риск в пользовательском интерфейсе (например, Streamlit), чтобы пользователь мог принять обоснованное решение?

Что я пробовал:

• Я реализовал базовую модель контролируемого обучения, но она больше похожа на улицу с односторонним движением, чем на «симбиотическую» систему.
• Я изучал онлайн-обучение (например, частичное_подгонку в Scikit-learn), но меня беспокоит дрейф модели.

Я был бы признателен за любые советы по архитектурным шаблонам или конкретным библиотекам, которые облегчить такое сотрудничество ИИ и человека.