nelloz-server

Noch unveröffentlichtes NPM-Paket für das automatische Einrichten eines Nelloz-Servers auf Windows oder Linux.

Einmal koppeln und starten

Auf dem Main-Computer zeigt nelloz start einen Pairing-Code. Auf dem Server ist anschließend nur ein Befehl nötig:

npx nelloz-server K7M2XP

Der Befehl erkennt den Main im lokalen Netzwerk, prüft den Code mit einem passwortgeschützten Schlüsselaustausch, erzeugt eine eigene Ed25519- Geräteidentität, speichert die vom Main signierten Credentials und verbindet den Server verschlüsselt. Anschließend prüft er den Speicher, richtet einen isolierten Hugging-Face-Downloader ein, lädt alle fest gepinnten Checkpoints fortsetzbar herunter, erzeugt die Nelloz-Runtime-Konfiguration und meldet den geprüften Bereitschaftsstatus an den Main-Computer. Der Prozess bleibt im Vordergrund und hält die Verbindung.

Standardmäßig werden diese fünf Checkpoints installiert:

• openbmb/MiniCPM-o-4_5
• Qwen/Qwen3.8-27B
• openai/whisper-large-v3-turbo
• MiniMaxAI/MiniMax-H3 – nur die vollständige FL2VA-Pipeline in BF16
• EricRollei/HunyuanImage-3.0-Instruct-Distil-NF4-v2

Die Revisionen sind im Paket als unveränderliche Commit-IDs festgelegt. Für den ersten vollständigen Lauf werden ungefähr 293 GiB freier Speicher (inklusive 15 Prozent Downloadreserve) und Python 3.10 oder neuer benötigt. HF_TOKEN kann bei Bedarf ausschließlich über die Umgebung übergeben werden; es wird nicht in Befehlsargumente oder Nelloz-Dateien geschrieben. Ein abgebrochener Download wird beim nächsten nelloz-server start fortgesetzt.

MiniCPM und Qwen werden beim Runtime-Start dauerhaft geladen. Hunyuan und MiniMax starten nur ihre leichten lokalen Endpunkte; die Gewichte werden erst für einen authentifizierten Medienauftrag geladen und nach Leerlauf wieder freigegeben. Ein externer Hunyuan-Safety-Checker ist im lokalen Profil deaktiviert; Geräte-, Datei- und Netzwerkfreigaben bleiben davon unabhängig.

Vorabprüfung ohne Download:

nelloz-server provision --dry-run

Die Modelle gelten gegenüber dem Main erst als einsatzbereit, wenn neben den Gewichten auch die lokale GPU-Runtime erfolgreich geprüft wurde. Ein bloß vorhandener Modellordner erzeugt deshalb keine falsche KI-Fähigkeitsmeldung.

Nach einem Neustart wird der Pairing-Code nicht mehr benötigt:

nelloz-server start

Falls die lokale Netzwerkerkennung blockiert ist:

npx nelloz-server K7M2XP --host 192.168.1.20

Die bestehenden erweiterten Windows-Companion-Werkzeuge bleiben unter companion-start, pki, mcp und autostart verfügbar. Reale Computer-, Datei- oder Kamerasteuerung bleibt standardmäßig deaktiviert und benötigt weiterhin eine ausdrückliche lokale Freigabe.