Четыре системы памяти для агентного ИИ: как сделать LLM умнее

AI-агенты и большие языковые модели (LLM), которые их питают, обладают короткой памятью. Это сделано намеренно: в токены можно закодировать лишь ограниченный объём диалога, и модель способна надёжно работать только с этим контекстом.

Для расширения памяти за пределы окна контекста применяется retrieval-augmented generation (RAG). Однако то, как именно агенты используют RAG или другие механизмы сохранения деталей разговора, может кардинально менять результат.

С ростом популярности AI-агентов появилось и множество дополнительных инструментов, дающих агентам и LLM расширенные возможности памяти. Чаще всего это означает сохранение контекста между сессиями, чтобы предыдущий диалог автоматически восстанавливался. Но способы реализации сильно различаются. Ниже — обзор ключевых проектов в области памяти для AI-агентов, каждый со своими особенностями, сильными сторонами и направленностью.

01Graphiti

Graphiti позиционируется как «фреймворк темпоральных графов знаний с открытым исходным кодом». Проект доступен на GitHub, а также используется как основа сервиса памяти Zep.

«Темпоральность» означает, что информация в Graphiti переоценивается со временем для сохранения актуального контекста. «Графовый фреймворк» — данные хранятся в виде набора графов. Другие решения тоже используют графовое хранение, но Graphiti делает это центральным элементом архитектуры.

Из коробки Graphiti поддерживает множество популярных LLM-провайдеров: Anthropic, Azure OpenAI, Google Gemini и Groq. Также работают любые API, совместимые с Ollama и OpenAI, что позволяет использовать Graphiti с локально размещёнными LLM.

Коннекторы к сторонним хранилищам позволяют загружать данные из GitHub, Gmail, OneDrive, а также из приложений вроде Notion.

Для локального использования Graphiti требуется настроить или подключиться к графовой базе данных. По умолчанию и наиболее широко поддерживается Neo4j, также работают Amazon Neptune, FalkorDB и KuzuDB. Postgres с pgvector в списке опций не указан.

02Hindsight

Hindsight доступен как облачный сервис и как локально развёртываемый проект. Он сохраняет детали сессий агентов в четырёх типах памяти, используя четыре стратегии хранения и извлечения.

Взаимодействие осуществляется через три программных интерфейса:

• retain — для сохранения содержимого (одного факта или целого разговора);
• recall — для извлечения данных;
• reflect — для запуска агентного цикла по запросу с использованием ранее сохранённых данных.

Hindsight предлагает широкий набор встроенных и сторонних интеграций с существующими LLM и инструментарием для агентов. Например, если вы используете расширение Continue в Visual Studio Code для общения с локальной LLM, интеграция Hindsight добавит долговременную память. Можно вручную вводить ключевое слово @hindsight в запрос для подгрузки релевантной памяти, либо настроить правила автоинъекции (они редактируются), чтобы автоматизировать этот процесс.

03Mem0

Mem0 отчасти напоминает Hindsight: у него тоже четыре базовых типа памяти, но они иначе названы и организованы. Например, в Mem0 есть отдельный тип — организационная память, предназначенная для хранения данных, общих для нескольких агентов или разных команд (обычно такая возможность не предусмотрена по умолчанию).

Каждое добавляемое воспоминание проходит процесс дистилляции и сохраняется в разных хранилищах (векторная БД, графовая БД, SQL БД) в зависимости от того, как оно будет использоваться. Старые данные не перезаписываются, а помечаются как устаревшие (deprecated), но не удаляются — это стратегия сохранения более широкого долгосрочного контекста. (Аналогичный подход применяется и в Hindsight.)

Mem0 поддерживает меньшее количество LLM, чем Hindsight, но все основные варианты доступны: Anthropic, Google Gemini, OpenAI, а также self-hosted решения вроде LangChain, LiteLLM, LM Studio и Ollama.

Для локального использования Mem0 (а не облачного сервиса) потребуется экземпляр Python и собственная векторная база данных. В качестве последней часто выбирают Postgres с расширением pgvector — это простое и распространённое решение, которое можно установить даже внутри Python venv.

04Supermemory

Supermemory загружает данные из множества распространённых источников: поддерживаются обычный текст, структурированные данные, распространённые форматы документов (PDF, Microsoft Office), видео, аудио и изображения. На основе этих данных строится контекстный граф, который используется для информирования диалогов агента. Одна из самых разрекламированных функций — инструменты извлечения содержимого.

Supermemory доступен как облачный сервис или как open-source ПО для локального запуска. В open-source редакции отсутствуют масштабирующие сервисы и коннекторы к сторонним сервисам (Gmail, Google Drive, Notion и т.д.), которые есть в enterprise-версии. Однако у неё есть важное преимущество: это единый самодостаточный бинарный файл, который можно развернуть на собственном оборудовании с минимальными усилиями. Для Supermemory не требуется подготавливать внешние базы данных, поэтому он хорошо подходит для быстрых экспериментов.