Гайд
LM Studio: GUI и локальный сервер
Удобный интерфейс для выбора GGUF, просмотра промптов и поднятия локального API без терминала.
LM Studio подходит тем, кто хочет видеть параметры загрузки модели глазами: слои на GPU, контекст, температуру. Для первых агентных прототипов GUI снижает трение.
Встроенный сервер позволяет подключать внешних клиентов — Open WebUI, собственные скрипты, IDE-плагины. Важно зафиксировать порт и не открывать его в интернет «на всякий случай».
Следите за длиной контекста. Агент с RAG и историей инструментов быстро забивает окно. Лучше короткий рабочий контекст и явная память, чем «максимум токенов» и деградация качества.
LM Studio хорош для сравнения квантовок одной семьи моделей. Переключайте Q4/Q5/Q8 на одном и том же промпте агента и смотрите, где ломается вызов инструментов.