Гайд
Песочница и безопасность локального агента
Модель не злонамеренна по умолчанию, но инструменты опасны. Ограничивайте поверхность атаки.
Дата14 сентября 2025 г.
ТемаБезопасность
Уровеньсредний
Чтение13 мин
Запускайте исполняемые инструменты в ограниченном каталоге. Белый список команд лучше чёрного. Запретите произвольный shell, если задача этого не требует.
Сеть для агента — отдельное решение. Многим сценариям достаточно offline. Если нужен браузер, режьте домены и лимиты запросов.
Секреты не кладите в промпт. Передавайте их через окружение рантайма, недоступное модели как тексту, либо через узкие инструменты с маскированием.
Предполагайте prompt injection из документов. Файл из интернета может содержать «игнорируй правила». Политика инструментов важнее вежливого системного промпта.