Контекст AI-агента: харнес, субагенты и токены — эфир CyberED
Повышение цен ▲
на все программы в 2026 году
Интенсивы Взлом Защита Безопасная разработка Основы Компаниям
Мероприятия Календарь Отзывы PRO-подписка Статьи

Как работает AI-агент: что он читает до твоего первого слова

Ты думаешь, что общаешься с моделью, а говоришь с обвязкой вокруг неё. Она съедает тысячи токенов до первого слова, качество падает уже на половине контекста, а субагенты без правил сжигают бюджет. Как сравнить харнесы на одной задаче, давать агенту контекст по этапам и закрывать опасные действия кодом.

Тема:AI и агентыБезопасная разработка
Когда прошло 16 ноября1 ч 54 мин
Никита Шилов
Никита Шилов
Lead AI Researcher

О чём эфир

Одна и та же модель в разных сервисах решает задачу по-разному, и дело в обвязке вокруг неё. На уроке одну задачу проверяют голой моделью в LM Studio, в ChatGPT и в минималистичном харнесе pi и сравнивают по трём ценам: качество, токены и время.

Ты поймёшь, почему качество падает задолго до конца контекстного окна, когда субагенты экономят токены, а когда сжигают их, как давать агенту контекст по этапам и почему запрет для агента должен быть в коде, а не в инструкции.

Разбор эфира по темам

Ты почти никогда не говоришь с моделью напрямую

Когда ты открываешь ChatGPT, DeepSeek или GigaChat, ты общаешься не с большой языковой моделью, а с системой вокруг неё. Чтобы говорить на одном языке, полезно различать четыре уровня:

  • Модель: предобученная языковая модель. Технически это исполняемый файл и огромный файл весов, в котором весь интернет сжат с потерями, как музыка в MP3.
  • Чат-бот: модель, обёрнутая в удобный интерфейс. Он сам отправляет модели историю диалога, чтобы разговор можно было продолжать.
  • Агент: тот же чат-бот, у которого есть размышление и инструменты. Инструментов немного, и они простые: прочитать файл, обратиться к API, выполнить кусок кода.
  • Харнес: обвязка вокруг агента. Слово пришло из английского, где harness означает упряжь. Харнес задаёт правила: как агент ведёт длинную задачу, когда создаёт субагентов, когда вызывает инструменты и плагины, когда считает задачу решённой и показывает результат.

Прорыв ChatGPT случился не из-за новой технологии, а из-за масштаба дообучения: в модель вложили огромное количество человеко-часов и вычислений. Сама же голая модель без обвязки полезна мало. Вся разница, которую ты чувствуешь между сервисами, во многом разница харнесов.

Это не магия. Выстраивание своей жизни вокруг агентов не что-то сверх, это как раньше были навыки пользования компьютером

Никита Шилов

Голая модель справляется с текстом и ошибается в точных данных

На уроке первой проверкой стала локальная модель в LM Studio. Это приложение, которое скачивает модель с открытыми весами на твоё устройство и запускает её без всякой обвязки. Модель на 26 миллиардов параметров с контекстным окном 250 тысяч токенов работает на ноутбуке с 64 ГБ памяти.

Первая задача: проверить пять договоров по регламенту и реестру исключений. Голая модель справилась и вынесла правильное решение «принять на доработку», хотя от запуска к запуску её ответы различались.

Вторая задача сложнее: по небольшой базе сопоставить ID заказа с ID пользователя, который хочет заменить кофемашину в заказе. Здесь модель ошиблась и взяла чужой ID. Языковые модели плохо работают с детерминированными данными. Лучший способ решать такие задачи: код без генерации, а модель может этот код написать.

У каждой задачи три цены: качество, токены и время

Тот же набор договоров в ChatGPT решается без проблем. Но решение любой задачи с моделью измеряется по трём критериям:

  1. 1

    Качество: решилась задача или нет.

  2. 2

    Стоимость: сколько токенов ушло на вход и выход.

  3. 3

    Время: сколько запросов и минут заняло решение.

Ещё до твоего первого слова модель получает инструкции харнеса. У Codex это около 20 000 токенов, у минималистичного харнеса pi около 640. Та же задача с договорами через pi дала тот же ответ, но с заметно меньшими затратами токенов и времени. На одном заходе экономия доходит до 90%. Когда задача повторяется на миллионах строк в базе, эта разница решает.

У минимализма есть цена: в pi нет почти ничего, и всё нужное под задачу приходится достраивать самому. Готовый харнес по подписке похож на готовый дом, pi похож на участок земли, где фундамент ставишь сам. Ещё одна деталь: пользоваться pi через подписку другого сервиса почти бессмысленно. Самый чистый контекст получается, когда модель вызывается напрямую по API провайдера.

Качество падает задолго до конца контекстного окна

У ведущих моделей сейчас контекстное окно около миллиона токенов. Кажется, что это много, но и при десяти миллионах длинная задача рано или поздно его заполнит. Хуже другое: качество начинает плавно снижаться примерно с 50% заполнения окна, а не на последних процентах. Резкого обрыва не будет, поэтому заметить момент трудно.

В окно попадает всё: правила харнеса, описания навыков, инструкции проекта, твоё сообщение и вся история диалога. Кэширование у провайдеров ускоряет повторные вызовы, но место в окне не освобождает.

Внимание модели похоже на фонарик: оно ищет в доступном контексте куски, относящиеся к запросу. Когда в одном чате смешаны разные темы, фонарику труднее, и качество ответов падает. Отсюда практические правила:

  • Окно заполнено на 50–60%: сделай сжатие контекста или открой новый чат.
  • Новая тема: новый чат.
  • Большие несвязанные проекты: разные проекты, а не один.

Новый чат помогает не всегда. На уроке был пример, когда качество падало даже в чистом чате с минимальными инструкциями. Причина нашлась во встроенной памяти Codex: там скопилось много примеров «как делать не надо», и модель начала воспроизводить именно их.

Существенное снижение качества происходит сильно раньше, чем контекст подходит к 100 процентам

Никита Шилов

Субагенты экономят контекст, только если у них правильные правила

Субагент полезен свежим взглядом: у него свой ограниченный контекст, своя команда и задача. Он выполняет микрозадачу, например читает файл, и возвращает главному агенту только результат. Главный агент, оркестратор, занимается архитектурными и продуктовыми решениями, а не разбором файлов.

На уроке ту же задачу с базой заказов на 11,8 МБ решили двумя способами:

  1. 1

    Один агент сам написал код запроса и прошёл им по базе, не читая файл целиком.

  2. 2

    Команда субагентов: каждый взял файл полностью и разбирал его средствами модели.

Обе задачи решены, но второй путь потратил заметно больше токенов. Вывод не в том, что субагенты плохи. Правила, по которым работают агент и его субагенты, определяют, будет ли решение быстрым и дешёвым.

Это же объясняет, почему вирусные системы из сотен агентов работают только на маленьких атомарных задачах. Чем больше агентов тратят токены, тем важнее каждый сэкономленный процент.

Давай агенту контекст по этапам, а не весь сразу

Прогрессивное раскрытие контекста: агент получает ровно те файлы и правила, которые нужны на текущем этапе задачи. Пример с дашбордом для руководства: на этапе проектирования агенту не нужны цвета, шрифты и правила адаптивной вёрстки. Ему нужны коннекторы к базам данных, ключи доступа и правила обновления данных. Когда эта часть готова, прошлый контекст сжимается, и агент получает правила для интерфейса.

Навыки тоже подключаются по короткой строке описания, а не целиком: агенту достаточно знать, что такой навык есть и когда его вызвать. Документы он не закидывает в контекст, а ищет по ним инструментом.

Разница в цифрах из урока: задача по файлу заказов с прогрессивным раскрытием заняла около 5 000 токенов. Если закинуть всё сразу, выходит около 540 000 токенов, больше половины окна даже у самых мощных моделей.

Правило текстом — это рекомендация, запрет должен быть в коде

Всё, что написано в инструкциях проекта и даже в харнесе, попадает в контекст как текст. Агент может это проигнорировать, например когда контекст переполнен.

На уроке был случай из практики: агенту с доступом к аккаунту AWS надоело каждый раз спрашивать код подтверждения, и его попросили просто зайти самому. Агент зашёл и выпустил сертификат за 400 долларов за счёт владельца аккаунта. Задача была решена, но не так, как хотелось.

Подобные вещи должны регулироваться кодом. Код это закон, а текст это рекомендация: лучше так делай или лучше так не делай

Никита Шилов

Отсюда правило: всё, что агенту нельзя делать ни при каких условиях (платные ресурсы, опасные действия), закрывается ограничениями в коде и правах, а не строкой в инструкции.

Как устроить проект агента

Базовая структура проекта на уроке:

  • AGENTS.md: главный файл инструкций. Сюда можно записать тон, правила работы и правила обращения к памяти. Его читают разные харнесы, поэтому ориентироваться можно на него.
  • Папка с правилами: правила работы с файлами и запреты лежат отдельно от больших кусков контекста.
  • Мини-список задач со статусами: один небольшой файл, где и ты, и агент видите, что в проекте на каком этапе.
  • Provenance: у каждого решения агента есть подтверждение, ссылка на файл или цитата с источником, которое ты можешь быстро проверить.

Память живёт не в харнесе. Это отдельное хранилище: дерево Markdown-заметок, векторная база, граф, темпоральный граф, где у каждого факта есть срок годности. Харнес задаёт правила, когда воспоминания подтягивать в контекст. Поэтому обещания решить память агента парой вызовов MCP не работают: правила запоминания, вызова и забывания это три отдельные дисциплины.

Для больших документов, которые не влезают в контекст, есть векторный поиск. Текст режется на чанки, каждый превращается в эмбеддинг, и модель ищет фрагменты по смыслу, а не по ключевому слову.

Когда нужна локальная модель

Открытые модели пока уступают ведущим облачным в скорости или стоимости, но для атомарных задач подходят хорошо:

  • Разметка и распознавание изображений: мультимодальная модель в LM Studio описывает картинки по заданной схеме, и данные не уходят в облако.
  • Анализ текста: определение тональности небольших фрагментов справлялось даже на ранних моделях.
  • Сценарии, которые не пропускают ограничения облачных провайдеров: например, атаки на собственного агента для проверки его защиты.

Требования к железу зависят от модели и квантизации: 8-, 4- и 2-битные версии занимают меньше памяти, а качество падает понемногу. Решает не оперативная память, а память видеокарты; на Mac с чипами M видеопамять и оперативная память общие.

Порядок решения о своём сервере:

  1. 1

    Проверь задачу на открытой модели в аренде, например через OpenRouter.

  2. 2

    Результат устраивает: посмотри, какое железо нужно для этой модели.

  3. 3

    Реши, есть ли причина держать модель у себя: простаивающие мощности или требования к безопасности данных.

Контекст, который ты передаёшь агенту и который не зависит от провайдера модели, работает как страховка: завтра модель могут обновить или аккаунт заблокировать, а твои правила и память останутся с тобой.

Частые вопросы

Чем агент отличается от чат-бота?

Чат-бот это модель в удобном интерфейсе, который сам передаёт ей историю диалога. У агента есть ещё размышление и инструменты: чтение файлов, обращение к API, запуск кода. А правила его работы задаёт харнес, обвязка вокруг агента.

Что такое харнес AI-агента?

Это обвязка вокруг модели: правила длинной работы, создания субагентов, вызова инструментов и сжатия контекста. Инструкции харнеса занимают контекст до твоего первого слова: у Codex это около 20 000 токенов, у минималистичного pi около 640.

Когда начинать новый чат с агентом?

Когда контекстное окно заполнено на 50–60% или ты переходишь к новой теме. Качество падает плавно и задолго до полного заполнения окна, а смешанные темы мешают модели находить нужный контекст.

Почему субагенты не всегда экономят токены?

Если у субагентов нет правил, каждый может прочитать большой файл целиком средствами модели. Агент, который пишет код запроса и проходит им по базе, решает ту же задачу дешевле. Экономия зависит от правил, а не от числа агентов.

Как запретить агенту опасные действия?

Ограничениями в коде и правах доступа. Инструкция текстом для агента только рекомендация: при переполненном контексте он может её проигнорировать.

Ещё эфиры по теме