О проекте
LLM Assist — журнал о локальных LLM-агентах
Мы собираем короткие практические тексты: как поднять модель дома, дать ей инструменты и не отправить чувствительные данные в облако.
Формат простой: одна тема — один гайд. Без магазина подписок, без «AI-платформы» и без обещаний заменить инженера одной кнопкой. Цель — дать ориентир по стеку, железу и рискам.
Тексты опираются на открытые практики локального инференса: Ollama, llama.cpp, RAG, tool calling, песочницы. Версии софта меняются быстро — сверяйте актуальные флаги и требования к VRAM по документации инструмента.
Сайт статичный. Здесь нельзя зарегистрироваться, оставить комментарий или отправить заявку. Мы намеренно не собираем персональные данные и не ведём рассылки.
Если собираете агента впервые, начните с маленькой модели, одного безопасного инструмента и набора из десяти тестовых задач. Масштаб — после того, как цикл стабильно закрывает простые сценарии.