Начо Мартинес в руководстве на The New Stack объясняет, как перейти с одного сервера на несколько и сохранить историю диалога. ИИ-агент — программа, которая выполняет задачи с помощью языковой модели.
В примере из статьи диалог агента из 40 шагов состоит из 40 запросов к серверу. Протокол не привязывает эти запросы к одному серверу.
В примере автора запросы распределяются между тремя экземплярами сервиса вместо одного.
Проверка утверждений:
- В руководстве на The New Stack объясняется, как масштабировать сервисы для ИИ-агентов с сохранением истории диалога. (подтверждено самой публикацией: доказательство; «When traffic grows or subagents spawn, these systems need to be scaled so that we, as engineers, can make necessary adjustments without users noticing. For example, we may scale a single-replica system to three replicas behind a load balancer when we need additional traffic support, while still retaining the proper conversation context and previous turns.»)
- Автор руководства — Начо Мартинес. (подтверждено самой публикацией: доказательство; «Building scalable, agent-friendly APIs for AI applications Oct 8th 2026 7:00am, by Nacho Martínez»)
- Диалог агента из 40 шагов состоит из 40 отдельных HTTP-запросов. (подтверждено самой публикацией: доказательство; «A 40-turn agent loop results in 40 independent HTTP requests.»)
- Протокол не привязывает запросы диалога к одному серверу. (подтверждено самой публикацией: доказательство; «A 40-turn agent loop results in 40 independent HTTP requests. Nothing in the protocol ties them to one server.»)
- Автор рассматривает переход с одного экземпляра сервиса на три за балансировщиком нагрузки как пример масштабирования. (подтверждено самой публикацией: доказательство; «For example, we may scale a single-replica system to three replicas behind a load balancer when we need additional traffic support, while still retaining the proper conversation context and previous turns.»)
Первоисточники:
оценка 53,9 из 100 · тип: руководство