Ищу отзывы об архитектуре и дизайне генеративной среды искусственного интеллекта (FRAMEWORK). ⇐ Python

[Anonymous]

Я создаю FRAMEWORM, среду машинного обучения промышленного уровня, специально разработанную для генеративного искусственного интеллекта (GAN, VAE и диффузионные модели). Моя цель — улучшить опыт разработчиков в рабочих процессах исследований и экспериментов. Подумайте о PyTorch Lightning, но с функциями, предназначенными для генеративных моделей.
Вот что у меня есть на данный момент:

• Система плагинов: Регистрация моделей с помощью одного декоратора
• Умные ошибки: Практические исправления вместо загадочных трассировок стека
• Наследование конфигураций: Принцип DRY для экспериментальных конфигураций
• Автоматическое обнаружение: Отбрасывайте файлы Python, они просто работают
• Типовая безопасность: Полная поддержка протокола с проверкой во время выполнения

Реализовано:

• модели DCGAN и VAE
• 92% тестового покрытия
• 12+ страниц документации

Следующие запланированные функции:

• Dependency Graph Engine для автоматической оптимизации конвейера
• Отслеживание экспериментов и управление версиями
• Поиск по гиперпараметрам с байесовской оптимизацией
• Набор тестов со стандартными метриками (FID, IS, LPIPS)

Вопросы:

• Есть ли какие-либо архитектурные ловушки, о которых мне следует знать при создании системы плагинов для моделей ML?
• Как бы вы рекомендовали реализовать безопасность типов во время выполнения без значительных накладных расходов?
• Любые советы по разработке надежного механизма графов зависимостей для ML эксперименты?
• Существуют ли передовые методы работы с механизмами объяснения ошибок в средах машинного обучения, которые помогают разработчикам эффективно отлаживать?

Я буду очень признателен за отзывы от всех, кто имеет опыт работы с инфраструктурой машинного обучения, генеративным искусственным интеллектом или инструментами разработки. Любые советы, ресурсы или примеры будут чрезвычайно полезны!
Заранее спасибо!

Подробнее здесь: https://stackoverflow.com/questions/798 ... work-frame