Я в настоящее время строю и запускаю свою собственную модель локального языка, используя OLLAMA (все должно оставаться в PREM, без вызовов API). < /p>
Настройка: < /p>
300+ ocr-обработанных файлов < /p>
Около 200 000 токенсов. Из -за ограниченного окна контекста. < /p>
Даже когда я кормлю его соответствующими кусками, оно все еще галлюцинирует или изобретает детали. Чтобы обрабатывать эти много данных локально? Штрафы), которые помогают уменьшить галлюцинации?
Подробнее здесь: https://stackoverflow.com/questions/797 ... -in-my-llm
