AgenticSTS сократил контекст LLM-агента за счет пятислойной памяти

Авторы AgenticSTS предложили тестбед для долгосрочных LLM-агентов на базе Slay the Spire 2. Вместо накопления полной истории диалога агент заново собирает короткий запрос из пяти слоев памяти; в экспериментах вариант со слоем навыков выиграл 6 партий из 10 на базовой сложности, но авторы оговаривают малый размер выборки.

Авторы препринта AgenticSTS представили тестбед для агентов на базе больших языковых моделей (LLM), которым нужно принимать сотни последовательных решений. В качестве среды выбран карточный roguelike Slay the Spire 2: состояние игры и допустимые действия можно передавать текстом, а прохождение требует тактики боя, выбора маршрута, наград и покупок.

Схема пятиуровневой памяти AgenticSTS и сравнение результатов

Ключевая идея — отказаться от схемы, при которой агент добавляет к каждому новому запросу всю историю наблюдений, вызовов инструментов и рассуждений. AgenticSTS собирает каждый запрос заново из пяти именованных слоев: протокольных инструкций, схем состояния и допустимых действий, базы игровых правил, эпизодической памяти прошлых запусков и библиотеки стратегических навыков.

В фиксированном тесте на базовой сложности A0 конфигурация без хранилищ выиграла 3 партии из 10, а вариант с активным слоем навыков — 6 из 10. Авторы отдельно подчеркивают, что при такой выборке результат является направленным, а не статистически убедительным доказательством преимущества архитектуры.

Практический эффект подхода виден в расходе контекста. В сравнении с двумя открытыми агентами для Slay the Spire 2, которые пересылают растущую историю диалога, AgenticSTS удерживает размер пользовательского запроса примерно постоянным; в опубликованном репозитории указано, что конкурирующие агенты в тестах не выиграли ни одной из пяти партий и тратили в 66–90 раз больше свежих токенов на единицу набранного результата. Вместе с кодом опубликованы 298 завершенных траекторий, снимки памяти и скрипты воспроизведения на Hugging Face.

Источник: arxiv.org

Связь с редакцией