Модель не доведена до идеала, но вы можете накидать ваши результаты которые пойдут на дальнейшее обучение для 2 версии.

Выставляйте вес лоры в зависимости от узнаваемости и ваших запросов.
В некоторых случаях будет неплохо если вы будете дополнять подсказку токенами для узнаваемости. Но вроде бы parrot достаточно для хорошего результата.

Модель натренирована на dev fp8. С другими версиями по идеи тоже должна работать не считая NF4.