AutoMem учит ИИ по-настоящему запоминать
По мере того как ИИ-агенты берут на себя все более сложные и длительные задачи, одна проблема продолжает ограничивать их возможности – память. Хотя современные большие языковые модели способны работать с огромными объемами контекста, им по-прежнему сложно определять, какую информацию стоит сохранять, когда ее необходимо извлекать и как эффективно организовывать знания с течением времени.
Исследователи из Стэнфордского университета опубликовали новое исследование «AutoMem: Автоматизированное обучение памяти как когнитивного навыка» (AutoMem: Automated Learning of Memory as a Cognitive Skill). Это новый фреймворк, который рассматривает управление памятью как навык, поддающийся обучению, а не как статический компонент системы искусственного интеллекта. Вместо того чтобы полагаться на заранее заданные архитектуры памяти или постоянно увеличивать размер контекстного окна, AutoMem обучает языковые модели самостоятельно вырабатывать более эффективные стратегии работы с памятью.
Ключевая идея AutoMem основана на концепции метапамяти (metamemory) – способности человека осознанно управлять собственной памятью. В отличие от того чтобы рассматривать память как пассивное хранилище информации, фреймворк позволяет AI-агенту самостоятельно решать:
- какую информацию необходимо сохранить;
- когда следует обратиться к уже накопленным знаниям;
- как организовать память;
- когда обновить или удалить устаревшие данные.
Для этого такие операции с памятью, как чтение, запись, поиск и добавление информации, становятся полноценными действиями наряду с обычными задачами агента. Это позволяет модели взаимодействовать с внешней памятью так же, как и с окружающей средой.
AutoMem обучается с помощью двух взаимодополняющих циклов оптимизации.
Первый цикл отвечает за оптимизацию структуры памяти. Более мощная языковая модель анализирует полные траектории выполнения задач и автоматически совершенствует систему памяти агента, изменяя промпты, структуру файлов, схемы и набор доступных операций. Поскольку выполнение долгосрочных задач может включать тысячи шагов, такой подход избавляет от необходимости вручную анализировать огромные объемы взаимодействий.
Второй цикл улучшает навыки управления памятью. Успешные решения, которые агент принимает при работе с памятью, собираются из множества эпизодов и используются в качестве обучающих сигналов. Это позволяет модели постепенно совершенствовать собственные стратегии управления памятью, не изменяя основной алгоритм выполнения задач.
Одним из самых интересных результатов исследования стало то, что оптимизация только системы памяти значительно повышает общую эффективность агента.
Во время тестирования в трех процедурно сгенерированных средах с длительными задачами: Crafter, MiniHack и NetHack – AutoMem повысил производительность базового агента примерно в 2-4 раза, не изменяя его политику выполнения действий. Исследователи также сообщают, что по результатам этих тестов открытая модель Qwen2.5-32B смогла приблизиться по результатам к уровню передовых проприетарных систем, таких как Claude Opus 4.5 и Gemini 3.1 Pro Thinking.
Эти результаты свидетельствуют о том, что управление памятью представляет собой отдельный навык, который можно развивать независимо от способностей модели к рассуждению, планированию или использованию инструментов.
Последние достижения в области ИИ-агентов в основном были связаны с увеличением размера контекстного окна или совершенствованием генерации с дополненной выборкой (RAG). AutoMem предлагает другой подход: вместо того чтобы просто предоставлять моделям доступ к большему объему информации, научить их эффективнее управлять собственной памятью.
Такой подход может оказаться особенно полезным для AI-агентов, которые работают в течение длительного времени, накапливают знания между сессиями, взаимодействуют с пользователями или выполняют сложные многоэтапные процессы, где важная информация может быть разделена сотнями или даже тысячами взаимодействий.
Если эта концепция подтвердит свою эффективность за пределами исследовательских бенчмарков, оптимизация памяти может стать одной из ключевых возможностей будущих агентов искусственного интеллекта наравне с логическим мышлением и планированием.
Вместо того чтобы спрашивать, сколько информации способна запомнить система искусственного интеллекта, AutoMem ставит гораздо более интересный вопрос: может ли ИИ научиться запоминать лучше? Первые результаты показывают, что ответ вполне может оказаться утвердительным.