Що таке context engineering?
Context engineering — це проєктування того, яка інформація потрапляє в контекстне вікно моделі на кожному кроці: які документи підтягнути, що з історії діалогу зберегти, що стиснути й що викинути. Ідеться про керування даними, а не про формулювання інструкції.
Потреба виникає, коли система виходить за межі одного питання. У агента, який працює годинами, історія листування, результати викликів інструментів і документи швидко перестають вміщуватися у вікно — і якість падає не через поганий промпт, а через сміття й втрати в контексті.
Типові прийоми: підтягувати документи через RAG замість завантаження всього, стискати довгу історію в коротку зведення, виносити постійні правила в системний промпт, зберігати робочий стан у зовнішніх файлах, а не в листуванні.
Де застосовується
Дисципліна стає ключовою в агентах і довгих діалогах, де контекст накопичується сам собою: історія листування, результати викликів інструментів, знайдені документи, проміжні висновки. Без керування цим потоком вікно переповнюється, а якість відповідей падає.
Базові прийоми: підтягувати документи пошуком замість завантаження всієї бази, стискати стару частину діалогу у стислий виклад, зберігати факти в зовнішній памʼяті й підставляти лише потрібні, очищати результати інструментів від службового шуму, кешувати незмінну частину промпту заради економії.
Приклад
Агент підтримки після сорока повідомлень починає плутати деталі замовлення. Рішення — не збільшити вікно, а стиснути стару частину листування в коротке резюме і тримати ключові факти про замовлення окремим блоком, який підставляється в кожен запит.
Часті запитання
Чим context engineering відрізняється від промпт-інжинірингу?
Промпт-інжиніринг відповідає на питання, як сформулювати інструкцію. Context engineering — які дані взагалі потраплять у вікно моделі на цьому кроці і в якому вигляді. Перше про текст запиту, друге про керування інформаційним потоком системи.
Навіщо це потрібно, якщо вікна стали великими?
Велике вікно не безплатне: довгий контекст дорожчий і повільніший, а якість на переповненому вікні падає — важлива деталь губиться серед зайвого. Відбір потрібного майже завжди дає кращий результат, ніж завантаження всього поспіль.
Як стискати історію діалогу?
Періодично замінюють старі повідомлення стислим викладом, зберігаючи важливі факти й рішення окремим структурованим блоком. Важливо, щоб стиснення не втратило дані, на які система посилатиметься пізніше, — тому ключові сутності виносять із тексту в поля.
Це задача розробника чи промпт-інженера?
На практиці розробника AI-рішень: тут потрібні робота зі сховищами, пошук, кешування і логіка вибору даних. Формулювання інструкцій при цьому лишаються поруч, тому в невеликих командах обидві задачі закриває одна людина.