Що таке fine-tuning (донавчання моделі)?
Fine-tuning — це донавчання вже готової моделі на власному наборі прикладів, щоб вона засвоїла потрібний стиль, формат відповіді чи вузьку предметну специфіку. Ваги моделі при цьому змінюються — виходить ваша власна версія моделі.
Донавчання виправдане, коли треба стабільно відтворювати певну поведінку: суворо заданий формат виводу, тон бренду, роботу з рідкісною термінологією. Для цього потрібні сотні або тисячі якісних пар «запит — еталонна відповідь», а також час і гроші на навчання.
Донавчання не додає моделі знань про свіжі події й не замінює доступ до внутрішніх документів. Дані, на яких навчили, «застигають» у вагах, і оновити їх можна лише новим циклом навчання.
Де застосовується
До донавчання вдаються, коли від моделі потрібна стійка поведінка, а не знання фактів: єдиний тон спілкування бренду, суворий формат виводу, специфічна термінологія галузі, розмітка документів за внутрішніми правилами компанії.
Порядок дій зазвичай такий: спершу пробують обійтися хорошим промптом, потім пошуком за своїми документами, і лише якщо цього не вистачає — донавчанням. Причина в ціні: потрібен розмічений набір прикладів, обчислювальні ресурси, оцінка якості й повторення процедури при виході нової версії базової моделі.
Приклад
Служба підтримки хоче, щоб відповіді завжди йшли в її форматі: привітання, суть, наступний крок, підпис. Промптом це утримується через раз. Після донавчання на тисячі реальних листувань модель витримує структуру без додаткових інструкцій.
{
"messages": [
{ "role": "system", "content": "Ти оператор підтримки Prog Academy." },
{ "role": "user", "content": "Чи можна перенести навчання на наступний потік?" },
{ "role": "assistant", "content": "Доброго дня! Так, перенесення можливе до старту групи. Напишіть номер договору — оформимо за один робочий день. З повагою, підтримка Prog Academy." }
]
}Fine-tuning чи RAG — що обрати
Просте правило: RAG вчить модель, що казати — він підмішує актуальні факти в запит. Fine-tuning вчить модель, як казати — він закріплює форму, стиль і поведінку. Для бази знань, яка часто змінюється, майже завжди потрібен RAG; для сталого формату відповідей — донавчання. Їх часто комбінують.
Часті запитання
Що таке LoRA і чим вона відрізняється від повного донавчання?
LoRA — спосіб донавчання, за якого основні ваги моделі лишаються незмінними, а навчається лише невеликий додатковий набір параметрів. Це в рази дешевше і швидше, результат займає мегабайти замість гігабайтів, а якість на більшості прикладних задач зіставна з повним донавчанням.
Скільки прикладів потрібно для донавчання?
Для закріплення стилю чи формату часто вистачає кількох сотень якісних пар. Важливіша за кількість — однорідність: якщо приклади суперечать одне одному, модель засвоїть цю непослідовність. Поганий набір даних погіршує результат порівняно з вихідною моделлю.
Скільки коштує донавчити модель?
Сам запуск навчання на хмарній платформі для невеликого набору коштує десятки доларів. Основні витрати — не обчислення, а підготовка й перевірка даних, а також повторення всієї процедури щоразу, коли виходить нова версія базової моделі.
Чи можна донавчити модель на своїх документах, щоб вона їх «знала»?
Так роблять, але результат зазвичай розчаровує: модель засвоює стиль документів, а не факти, і продовжує вигадувати деталі. Для відповідей за конкретними документами правильний інструмент — пошук за своєю базою, а не донавчання.