Начал погружение в агентную инфраструктуру всего две недели назад без какой-либо базы — и честно говоря, это было очень интересно. Создал свою собственную локальную систему памяти, используя небольшую языковую модель, работающую локально, структурированную вокруг двухканочного дизайна, который действительно работает.

Канал 1 сосредоточен на гибридных семенах с семантическим поиском, основанным на встраиваниях. Этот подход позволяет эффективно индексировать и извлекать контекстную информацию без использования внешних API. Система взвешивания собирает разные сигналы данных на основе оценок релевантности, что делает выводы чистыми и быстрыми.

Что меня удивило больше всего? Насколько быстро можно прототипировать этот стек с помощью потребительского оборудования. Локальная LLM обрабатывает генерацию встраиваний в реальном времени, а двухканная настройка умно маршрутизирует запросы между структурированными данными и семантическим сопоставлением. Это не революционная инфраструктура, но для личных AI-агентов, которым нужна сохранность памяти, это удивительно масштабируется.

Кривая обучения оказалась круче, чем ожидал, но разбивка — встраивания, векторный поиск, локальные пайплайны вывода — каждый элемент стал понятен, как только перестал переусердствовать с размышлениями. Если вы исследуете агентные системы, начинать с локальных решений — определенно правильный шаг.