Eigener KI-Server, der dir gehört

Welche Hardware brauche ich für einen KI-Server?

Für die meisten kleinen und mittleren Unternehmen ist ein kompaktes System wie die NVIDIA DGX Spark die passende Klasse: 128 GB einheitlicher Speicher, 273 GB/s Speicherbandbreite, ausgelegt für etwa drei bis zehn gleichzeitig aktive Nutzer. Der Speicher entscheidet, welche Modelle überhaupt laufen, die Bandbreite entscheidet, wie schnell sie antworten. Als Faustformel gilt: maximale Token pro Sekunde entspricht ungefähr der Speicherbandbreite in GB/s geteilt durch die aktive Modellgröße in GB, in der Praxis erreichen Systeme 60 bis 80 Prozent dieses Werts. Wichtig ist vor allem, dass das Modell komplett in den Speicher passt, sonst bricht die Geschwindigkeit drastisch ein. Für sehr kleine Teams reicht auch ein Mini-PC, ab etwa zehn gleichzeitigen Nutzern beginnt der Workstation-Bereich.

Was kostet ein eigener KI-Server?

Ein eigener KI-Server ist eine Einmalinvestition statt eines laufenden Abos. Die Hardware: Ein NVIDIA DGX Spark kostet rund 5.850 Euro netto, wenn du ihn über uns bestellst, Versand inklusive. Dazu kommt die Arasul-Lizenz, die du einmal zahlst und danach behältst, optional ergänzt um ein jährliches Wartungspaket für Updates und Sicherheit. Die laufenden Kosten beschränken sich im Wesentlichen auf Strom, je nach Auslastung rund 40 bis 115 Euro im Jahr. Was komplett wegfällt: Lizenzgebühren pro Nutzer und Monat, Token-Abrechnungen und jährliche Preiserhöhungen des Anbieters. Die Modelle selbst sind Open Source und kosten nichts. Landesförderungen wie der Digitalbonus können die Anschaffung zusätzlich senken, der Antrag muss allerdings vor dem Kauf gestellt werden.

Die vollständige Kostenaufstellung mit Break-even-Werten findest du auf der Seite zu den Kosten lokaler KI.

Lohnt sich ein eigener KI-Server gegenüber der Cloud?

Das hängt davon ab, wie viel du KI nutzt und wie sensibel deine Daten sind. Cloud-Dienste starten günstig, kosten aber dauerhaft pro Nutzer und Monat plus Gebühren pro Token für jede Automatisierung. In unserer Beispielrechnung für ein Team mit zehn Mitarbeitern summieren sich die Cloud-Kosten über drei Jahre auf 28.800 bis 54.000 Euro, während der eigene Server inklusive Hardware bei rund 10.000 Euro landet. Der Break-even liegt bei zehn Nutzern bei etwa 21 Monaten, bei zwanzig Nutzern unter einem Jahr. Dazu kommt, dass deine Daten das Haus nicht verlassen. Ehrlich gesagt werden muss auch: Bei den größten Cloud-Modellen bleibt ein Qualitätsabstand. Für strukturierte, wiederkehrende Aufgaben wie Dokumente auslesen oder Texte vorformulieren reicht lokale Rechenleistung in der Praxis gut aus.

Wie richte ich einen KI-Server ein?

Einfacher, als viele erwarten. Mit Arasul läuft die Einrichtung über Setup-Skripte: Du schließt das Gerät an Strom und Netzwerk an, die Skripte machen es startklar, danach arbeitest du im Browser weiter. Dort wählst du Modelle aus, legst Nutzer an und richtest die ersten Abläufe ein, ohne Kommandozeile im Alltag. Modelle lassen sich jederzeit wechseln, wenn ein besseres offenes Modell erscheint, tauschst du es einfach aus. Wer die Einrichtung nicht selbst machen will, holt sich einen Partner aus unserem Verzeichnis, der den Server aufsetzt, ins Firmennetzwerk einbindet und das Team einweist. Danach läuft das System weitgehend autonom, gelegentliche Updates lassen sich in ein bis zwei Stunden pro Quartal erledigen.