← zur Übersicht

Nächster Aufbau von Server 05 — Speicher und Antwortzeit besser machen


titel: Nächster Aufbau von Server 05 — Speicher und Antwortzeit besser machen

erstellt: 2026-10-31

status: Plan, noch nicht umgesetzt

betrifft: playbooks/05-buttons.yml, agents.py, Hetzner-Servertyp

tags: [plan, performance, speicher, server05, livekit-agents]


Nächster Aufbau: die zwei Engpässe wegnehmen

Gemessen am 31.10.2026 auf dem Lernserver (cx23, Ubuntu 24.04):

MesswertWert
Speicher gesamt / belegt / frei3 819 MB / 3 570 MB / 121 MB
Swap belegt358 MB (von 4 095 MB) — die Kiste swappt im Leerlauf
Beraterprozesse6 Dienste × 3 Prozesse (1 Haupt + 2 Reserve)
Speicher je Prozess (RSS)350–500 MB im Kinderprozess, 60–124 MB im Hauptprozess
Next.js87 MB
Serverpreis cx236,59 €/Monat
Serverpreis cx33 (8 GB, 4 Kerne)10,19 €/Monat

agents.py startet heute `AgentServer(port=…, load_threshold=1.5,

num_idle_processes=2)`. Jeder der sechs Dienste hält damit drei Prozesse,

und jeder dieser Prozesse lädt die Modelle (u. a. Silero-VAD) selbst.

LiveKit-Agents 1.6.10 kann das anders: WorkerOptions kennt

job_executor_type mit PROCESS (Standard) und THREAD, außerdem

job_memory_limit_mb und num_idle_processes.

Was zu tun ist — nach Wirkung sortiert

MaßnahmeWirkungAufwand
num_idle_processes=0, job_executor_type=THREAD je Dienst~1,2–1,8 GB weniger, sechs Prozesse statt achtzehnklein (agents.py)
zram 2 GB statt (oder zusätzlich zu) Disk-SwapSwappen im RAM statt auf Platte, ~3× schnellerklein (Playbook)
Servertyp cx33 statt cx238 GB und 4 Kerne, kein Swappen mehr; +3,60 €/Monatklein (Playbook-Vorgabe)
Antworten parallel erzeugen, nacheinander sprechengroße Runde ~20 s statt ~60 smittel (agents.py)
Sprachausgabe-Sitzung warmhalten0,2–0,4 s weniger je Antwortklein
Szenario-Wechsel per Datenbotschaft sofort übernehmenwirkt ab sofort, nicht erst ab der nächsten Frageklein (App + agents.py)

Empfohlene Reihenfolge: erst die drei „kleinen" Maßnahmen (kosten nichts außer

einer Stunde Arbeit und 3,60 € im Monat), dann die parallele Antwort. Danach

ist eine Sechser-Runde in rund 20 Sekunden fertig und der Server swappt nicht

mehr.

Warum nicht einfach „mehr Speicher kaufen" allein

8 GB lösen das Swappen, aber nicht die Wartezeit: die 60 Sekunden entstehen

durch sechs Modellaufrufe hintereinander, nicht durch Speichermangel. Und

die 18 Prozesse sind reine Verschwendung — sechs Berater brauchen kein

Modell-Laden sechsmal. Beides zusammen ist die Lösung, keines allein.

Prüfsteine für den nächsten Durchgang

Stimme.