Производительность модели Foundation Foundation Apple (.fmadapter) значительно падает после развертывания в приложение i ⇐ IOS

[Anonymous]

Я сталкиваюсь с сложной проблемой с тонкой настройкой модели Apple Foundation, и я буду признателен за любым пониманием. Цель состоит в том, чтобы интегрировать эту модель в приложение для iOS для вывода на грани. Формат < /p>
Среда: Python с Pytorch (Kaggle: Manux TPU Machine) < /p>
Производительность: во время обучения и тестирования в моей среде Python производительность модели была превосходной. Он дал точные и соответствующие ответы на моем наборе проверки. Я загрузил эту модель в свой проект iOS, используя Swift. Это дает бессмысленные, нерелевантные или совершенно неправильные ответы, даже на те же подсказки, которые отлично работали во время тестирования. Вот что я исследовал до сих пор: < /p>
Форматирование приглашения: я попытался убедиться, что формат подсказки ввода в моем коде Swift идентична той, которая используется во время обучения. .FMADAPTER преобразование включает квантование, что может повлиять на производительность, но падение кажется слишком серьезным, чтобы быть вызванным только этим. Существуют ли общие ошибки, связанные с быстрым форматированием, кодированием символов или преобразованием.

Подробнее здесь: https://stackoverflow.com/questions/797 ... gnificantl