Що таке галюцинації AI?

Галюцинація — це відповідь мовної моделі, яка звучить упевнено й правдоподібно, але фактично хибна: вигадана цитата, неіснуюча функція бібліотеки, придуманий номер закону чи посилання, яке нікуди не веде.

Причина — у самій природі моделі. Вона прогнозує правдоподібне продовження тексту, а не звіряється з джерелом істини. Якщо в навчальних даних не було точного факту, модель усе одно видасть статистично «схожий на правду» варіант, бо промовчати для неї не природніше, ніж відповісти.

Ризик знижують, а не усувають: підмішують перевірювані джерела через RAG, просять модель посилатися на конкретні фрагменти, дозволяють відповідь «не знаю» й залишають людину перевіряти критичні рішення.

Приклад

Типовий випадок: модель упевнено називає метод бібліотеки, якого в ній немає. Код виглядає правильним і падає лише під час запуску — тому вивід AI завжди варто перевіряти.

Повʼязані терміни

LLM

LLM (Large Language Model, велика мовна модель) — це нейромережа, навчена на величезних обсягах тексту, яка прогнозує наступний фрагмент тексту. Саме на LLM працюють ChatGPT, Claude, Gemini та інші AI-асистенти.

RAG

RAG (Retrieval-Augmented Generation) — це підхід, за якого перед відповіддю система спочатку знаходить релевантні фрагменти у вашій базі знань і передає їх мовній моделі разом із питанням. Модель відповідає не «з памʼяті», а за конкретними документами.

Human-in-the-loop

Human-in-the-loop — це принцип побудови AI-систем, за якого людина включена в робочий цикл і підтверджує або коригує рішення моделі в наперед визначених точках: перед незворотною дією, за низької впевненості або в чутливих сценаріях.

Prompt Engineering

Промпт-інжиніринг — це практика проєктування запитів до мовних моделей так, щоб отримувати стабільний і передбачуваний результат: підбір формулювань, структури, прикладів та обмежень, а потім перевірка їх на реальних задачах.

Generative AI

Генеративний AI (GenAI) — це клас моделей штучного інтелекту, які створюють новий контент: текст, зображення, аудіо, відео або код. На відміну від класичних моделей, що обирають відповідь із готових варіантів, генеративні моделі породжують результат з нуля.