GPU-Box Selbstheilung
Eine netzwerk-schaltbare Steckdose plus Watchdog, damit sich die KI-Workstation nach einem Hänger von selbst neu startet — ohne dass jemand vor Ort sein muss.
Worum es geht
- Priorität
- hoch
- Kosten
- ~25 € (schaltbare Steckdose, lokale API)
- Löst
- manueller Vor-Ort-Neustart der GPU-Box
- Alternative
- PiKVM (~150 €, mit BIOS-Sicht)
Die KI-Workstation trägt die Sprach-, Bild- und Geocoding-Modelle, die der Verein bewusst nicht auslagert. Ab und zu hängt sie sich hart auf — und dann hilft nur ein physischer Neustart. Ist in diesem Moment niemand vor Ort, sind alle KI-Dienste dunkel, bis jemand hinfährt.
Der Fix ist eine netzwerk-schaltbare Steckdose in der Zuleitung, kombiniert mit einem Watchdog auf dem Hauptserver: bleibt die Workstation über eine gewisse Zeit stumm, versucht der Server sie zuerst sanft neu zu starten und trennt erst als letztes Mittel den Strom, worauf die Maschine von selbst wieder hochfährt. Aus einem Vor-Ort-Einsatz wird ein automatischer Ablauf, der weder Anwesenheit noch Aufsicht braucht.
Die Steckdose spricht eine lokale Schnittstelle, ohne Zwang zu einer Hersteller-Cloud — passend zur Eigenbetrieb-Linie. Der höherwertige Weg wäre ein kleines KVM-über-IP-Gerät, das den Start auch sehen und ins BIOS greifen kann; die Steckdose ist die pragmatische, günstige erste Stufe.
Was GPU-Box Selbstheilung für den Verein verkörpert
- UnabhängigkeitSchweizer Verein, keine Investoren.
- EigenbetriebEigene Infrastruktur, quelloffener Stack.
- LanglebigkeitBewährte Stacks, gute Doku.
Was offen ist
- Steckdose beschaffen und das BIOS auf „nach Stromausfall wieder einschalten" stellen.
- Watchdog scharf schalten: erst sanft neu starten, erst als letztes Mittel den Strom trennen.
Weitere Infrastruktur dieser Art
Geplanter Hardware- oder System-Ausbau — noch nicht beschafft, aber vorgesehen.
- Thunderbolt-UmzugDie Daten-SSD des Servers von USB auf Thunderbolt umziehen — der günstigste Hebel gegen die Ausfälle, die uns diesen Sommer getroffen haben.
- USV-StrompufferEine unterbrechungsfreie Stromversorgung für beide Maschinen — überbrückt kurze Ausfälle und erlaubt ein sauberes Herunterfahren statt eines harten Abbruchs.
- GPU-AusbauMehr Grafikspeicher für die KI-Workstation — der Schritt, den ein echter Nutzer-Pilot mit größeren offenen Modellen auslösen würde.
- Linux-KnotenMehrere kleine Linux-Rechner statt eines einzigen Servers — damit kein einzelner Ausfall die Dienste des Vereins lahmlegt.
GPU-Box Selbstheilung ist ein geplanter Ausbau der Vereins-Infrastruktur — vorgesehen, aber noch nicht beschafft.