Що таке context engineering?
Context engineering — це проєктування того, яка інформація потрапляє в контекстне вікно моделі на кожному кроці: які документи підтягнути, що з історії діалогу зберегти, що стиснути й що викинути. Ідеться про керування даними, а не про формулювання інструкції.
Потреба виникає, коли система виходить за межі одного питання. У агента, який працює годинами, історія листування, результати викликів інструментів і документи швидко перестають вміщуватися у вікно — і якість падає не через поганий промпт, а через сміття й втрати в контексті.
Типові прийоми: підтягувати документи через RAG замість завантаження всього, стискати довгу історію в коротку зведення, виносити постійні правила в системний промпт, зберігати робочий стан у зовнішніх файлах, а не в листуванні.
Повʼязані терміни
Контекстне вікно — це максимальний обсяг тексту в токенах, який мовна модель може тримати «перед очима» за один раз: системний промпт, історія діалогу, додані файли та її власна відповідь. Усе, що не вмістилося, для моделі просто не існує.
Prompt EngineeringПромпт-інжиніринг — це практика проєктування запитів до мовних моделей так, щоб отримувати стабільний і передбачуваний результат: підбір формулювань, структури, прикладів та обмежень, а потім перевірка їх на реальних задачах.
RAGRAG (Retrieval-Augmented Generation) — це підхід, за якого перед відповіддю система спочатку знаходить релевантні фрагменти у вашій базі знань і передає їх мовній моделі разом із питанням. Модель відповідає не «з памʼяті», а за конкретними документами.
AI AgentAI-агент — це програма на базі мовної моделі, яка отримує ціль, сама планує кроки до неї та виконує їх за допомогою підключених інструментів: шукає дані, викликає API, редагує файли, надсилає листи — і за результатом кожного кроку вирішує, що робити далі.
TokenТокен — це мінімальний шматочок тексту, яким оперує мовна модель: слово, частина слова або розділовий знак. Модель не бачить літери та слова напряму — вона читає й генерує саме послідовність токенів.