Що таке галюцинації AI?
Галюцинація — це відповідь мовної моделі, яка звучить упевнено й правдоподібно, але фактично хибна: вигадана цитата, неіснуюча функція бібліотеки, придуманий номер закону чи посилання, яке нікуди не веде.
Причина — у самій природі моделі. Вона прогнозує правдоподібне продовження тексту, а не звіряється з джерелом істини. Якщо в навчальних даних не було точного факту, модель усе одно видасть статистично «схожий на правду» варіант, бо промовчати для неї не природніше, ніж відповісти.
Ризик знижують, а не усувають: підмішують перевірювані джерела через RAG, просять модель посилатися на конкретні фрагменти, дозволяють відповідь «не знаю» й залишають людину перевіряти критичні рішення.
Де застосовується
З галюцинаціями стикається кожен, хто застосовує моделі в роботі: вигадана функція бібліотеки в коді, неіснуючий пункт закону в юридичній довідці, вигадане посилання в добірці джерел, хибна цифра в переказі звіту.
Тому в робочих процесах їх не «лікують», а обмежують. Моделі дають конкретні документи замість опори на памʼять, просять вказувати джерело кожного твердження, додають автоматичні перевірки формату й фактів, а на відповідальних кроках лишають підтвердження людиною.
Приклад
Типовий випадок: модель упевнено називає метод бібліотеки, якого в ній немає. Код виглядає правильним і падає лише під час запуску — тому вивід AI завжди варто перевіряти.
Часті запитання
Чому мовні моделі взагалі вигадують?
Бо модель передбачає правдоподібне продовження тексту, а не перевіряє факти. У неї немає уявлення про те, що вона чогось не знає, тому прогалина в знаннях заповнюється найімовірнішим за формою варіантом — упевненим і граматично бездоганним.
Як зменшити кількість галюцинацій?
Передавати моделі вихідні документи і вимагати відповідати лише за ними, просити посилання на конкретні фрагменти, дозволяти відповідь «у наданих матеріалах цього немає», знижувати температуру і перевіряти критичні дані автоматично або вручну.
Чи можна повністю позбутися галюцинацій?
Ні, це наслідок самого принципу роботи моделі, а не усувна помилка. Хороша практика знижує частоту на порядок, але не до нуля. Тому у відповідальних сценаріях — медицина, право, фінанси — перевірка людиною лишається обовʼязковою.
Як помітити галюцинацію?
Насторожувати мають конкретні деталі, які легко перевірити: точні цитати, номери, посилання, назви методів і параметрів. Саме вони найчастіше виявляються вигаданими. Упевнений тон надійною ознакою не є — він однаковий і у правильних, і в хибних відповідях.