Що таке системний промпт (system prompt)?
Системний промпт — це постійна інструкція, яку модель отримує перед початком діалогу: її роль, правила поведінки, тон, формат відповідей і заборони. Він діє на все листування, на відміну від звичайного повідомлення користувача.
У системний промпт виносять те, що не має змінюватися від запиту до запиту: «ти консультант інтернет-магазину, відповідаєш лише за нашим каталогом, не обіцяєш знижок, за відсутності даних пропонуєш звʼязатися з менеджером».
Системний промпт займає місце в контекстному вікні й оплачується токенами при кожному запиті, тому його тримають компактним. Він також не є захистом: на нього можна вплинути спеціально складеним повідомленням користувача, тому справді критичні обмеження треба ставити на рівні коду та прав доступу.
Повʼязані терміни
Промпт — це текстовий запит, який ви надсилаєте мовній моделі: завдання, питання, інструкція разом з усіма даними, потрібними для відповіді. Промпт повністю визначає, що модель побачить і, відповідно, що вона відповість.
Prompt EngineeringПромпт-інжиніринг — це практика проєктування запитів до мовних моделей так, щоб отримувати стабільний і передбачуваний результат: підбір формулювань, структури, прикладів та обмежень, а потім перевірка їх на реальних задачах.
AI AgentAI-агент — це програма на базі мовної моделі, яка отримує ціль, сама планує кроки до неї та виконує їх за допомогою підключених інструментів: шукає дані, викликає API, редагує файли, надсилає листи — і за результатом кожного кроку вирішує, що робити далі.
Context WindowКонтекстне вікно — це максимальний обсяг тексту в токенах, який мовна модель може тримати «перед очима» за один раз: системний промпт, історія діалогу, додані файли та її власна відповідь. Усе, що не вмістилося, для моделі просто не існує.