GPU-Ausbau
Mehr Grafikspeicher für die KI-Workstation — der Schritt, den ein echter Nutzer-Pilot mit größeren offenen Modellen auslösen würde.
Worum es geht
- Priorität
- mittel — bedarfsgetrieben
- Kosten
- ab ~600–700 € (zweite gebrauchte Karte)
- Löst
- Speicher-Decke bei größeren Modellen
- Auslöser
- erster Pilot mit echtem Bedarf
Eine einzelne Grafikkarte trägt auf der KI-Workstation heute Sprache, Bild und Geocoding gemeinsam. Für die Modelle, die der Verein aktuell selbst hostet, reicht ihr Speicher gut aus. Größere offene Modelle — die nächste Generation an Sprach- und Bild-Modellen — sprengen ihn.
Der Ausbau ist bewusst keine Vorratsbeschaffung. Die Ambition führt: möglichst jede digitale Fähigkeit auf unabhängigen Beinen bereitstellen und gegen den offenen Stand der Technik messen. Die Hardware ist die Stellschraube, kein Tor — sie wächst, wenn ein echter Pilot mit Nutzern den Bedarf zeigt, nicht vorher und nicht auf Verdacht.
Der günstigste erste Schritt kostet gar nichts: der Workstation steht mehr Arbeitsspeicher zur Verfügung, als heute freigegeben ist — das allein hebt die Modell-Decke ein gutes Stück. Erst danach stellt sich die Kauf-Frage, und die fällt gebraucht und maßvoll aus, im gleichen Geist wie die erste Karte, die für unter 1000 Euro angeschafft wurde.
Was GPU-Ausbau für den Verein verkörpert
- DatensouveränitätVerwahrer statt Eigentümer.
- UnabhängigkeitSchweizer Verein, keine Investoren.
- EigenbetriebEigene Infrastruktur, quelloffener Stack.
Was offen ist
- Kostenlos zuerst: den Arbeitsspeicher-Deckel der Workstation anheben — sie hat mehr, als heute genutzt wird.
- Modell-Vergleich gegen den offenen Stand der Technik, bevor Hardware wächst.
- Entscheiden: eine zweite gebrauchte Karte vs. eine einzelne größere.
Weitere Infrastruktur dieser Art
Geplanter Hardware- oder System-Ausbau — noch nicht beschafft, aber vorgesehen.
- Thunderbolt-UmzugDie Daten-SSD des Servers von USB auf Thunderbolt umziehen — der günstigste Hebel gegen die Ausfälle, die uns diesen Sommer getroffen haben.
- GPU-Box SelbstheilungEine netzwerk-schaltbare Steckdose plus Watchdog, damit sich die KI-Workstation nach einem Hänger von selbst neu startet — ohne dass jemand vor Ort sein muss.
- USV-StrompufferEine unterbrechungsfreie Stromversorgung für beide Maschinen — überbrückt kurze Ausfälle und erlaubt ein sauberes Herunterfahren statt eines harten Abbruchs.
- Linux-KnotenMehrere kleine Linux-Rechner statt eines einzigen Servers — damit kein einzelner Ausfall die Dienste des Vereins lahmlegt.
GPU-Ausbau ist ein geplanter Ausbau der Vereins-Infrastruktur — vorgesehen, aber noch nicht beschafft.