Как запустить локального ИИ-агента для управления домашней сетью и документации

Автор эксперимента перестал вручную обслуживать домашнюю сеть из нескольких устройств на OpenWrt, сетевого хранилища и умной техники. Он настроил локального ИИ-агента на основе модели Qwen3.6-35B-A3B, который сам подключается к роутерам по SSH, проверяет сервисы и ведёт документацию. Все деструктивные операции требуют подтверждения, а сгенерированные скрипты проходят ручной контроль.

Для реализации потребовалось установить среду выполнения JavaScript Node.js и консольную утилиту Qwen CLI через менеджер пакетов npm. Эта оболочка даёт модели «тело», позволяя вызывать внешние инструменты и взаимодействовать с файловой системой. Мастер настройки CLI предлагает выбрать облачного провайдера или пропустить шаг ради полностью локального варианта.

Автор выбрал автономную работу и запустил сервер на движке для локального запуска моделей под Windows с 8 ГБ видеопамяти. Применялась 4-битная квантованная модель MXFP4 от сообщества разработчиков. Из-за ограничений памяти контекстное окно составило около 240 тысяч токенов вместо максимальных 262 тысяч.

После запуска сервера на адресе 127.0.0.1:8080 ответ модели проверяется через браузер. Затем в Qwen CLI вручную указывается собственный провайдер, совместимый с API OpenAI, адрес сервера и произвольный ключ доступа. В настройках важно исправить размер контекста в файле конфигурации, так как по умолчанию CLI ожидает 1 миллион токенов.

Для удалённого выполнения команд установлен пакет для SSH-подключений. Он хранит профили подключений в файле с хостами и открывает постоянные сессии. После интеграции с конфигурацией Qwen CLI агент получает возможность выполнять команды на роутере и возвращать результат в диалог.

Знания о сети организованы по схеме «LLM-вики», адаптированной из публикации Андрея Карпатого. Структура включает неизменяемую папку с исходными данными об атрибутах устройств и инструкциями, а также папку для генерируемых страниц с динамическим состоянием, индексом и журналом действий. Ключевой файл с инструкциями объясняет модели правила работы.

Агент выполняет три типа операций. Команда «Поглощение» заставляет его читать новые файлы в исходниках, обновлять вики-слой и поисковый индекс. Команда «Изменение» инициирует сбор данных с роутеров через SSH и запись результатов, а «Проверка» ищет противоречия между страницами и выявляет устаревшие сведения.

Автор привёл пример использования: агенту поручили узнать IP-адреса всех устройств на роутере и запомнить алгоритм. Теперь к устройствам можно обращаться по именам, а агент сам находит их MAC-адреса в созданной карточке и определяет текущий IP. Такой подход позволяет накапливать знания и поддерживать их в актуальном состоянии.

Сборка серверного движка из исходников под конкретное железо дала заметный прирост скорости. На ноутбуке с процессором AMD Ryzen 9 7845HX и видеокартой RTX 5070 Mobile стоковый сервер выдавал 170 входных и 12 выходных токенов в секунду. После компиляции с оптимизациями под Ryzen скорость выросла до 200 и 20 токенов соответственно.

Все действия автор выполнял в кроссплатформенной оболочке PowerShell, которая работает и под Windows, и под Linux. Генерируемые скрипты также рассчитаны на PowerShell. Для первоначального эксперимента не требуется собирать серверный движок из исходников, достаточно скачать готовый архив с релизов.

Источник: Хабр — Умный дом

Читайте также

Риелтор назвала случаи, когда собственник может сам повысить аренду

Квартира 67 кв. м в доме Кондратьевского жилмассива: перепланировка и винтаж

Бизнес отказывается от штаб-квартир: доля таких офисов упала втрое за пять лет

IT и телеком в России упёрлись в потолок мощностей и кадровый голод

Как развести интернет по всей квартире до чистовой отделки: схема и расчёт