Anbieter lokaler KI in Deutschland: ein Überblick

Lokale KI bieten in Deutschland heute vor allem drei Arten von Anbietern an: solche, die ein fertiges Gerät mit Sprachmodell ins Büro stellen, solche, die Sprachmodelle im Rechenzentrum des Kunden oder auf eigener Infrastruktur in Deutschland betreiben, und Händler, die die passende Hardware liefern. Dieser Überblick nennt Anbieter, die in Suchen nach lokaler KI für Kanzleien, Praxen und den Mittelstand auftauchen, mit dem, was sie auf ihrer eigenen Website über sich sagen. Er nennt keine Preise und wertet nicht. Stand ist der 30. Oktober 2026; Angebote ändern sich, maßgeblich ist die verlinkte Seite des Anbieters.

Was heißt lokale KI bei einem Anbieter?

Lokale KI heißt, dass das Sprachmodell nicht bei einem großen Cloud-Anbieter rechnet, sondern auf Hardware, die der Kunde besitzt oder die in einem Rechenzentrum steht, das er selbst wählt. Hinter dem Wort stecken bei den Anbietern unterschiedliche Dinge.

Manche liefern ein Gerät ins Büro, auf dem ein Modell und eine Oberfläche schon eingerichtet sind, meist ein Chat über die eigenen Dokumente. Andere betreiben Sprachmodelle im Rechenzentrum des Kunden oder auf eigener Infrastruktur in Deutschland oder Europa; dann rechnet das Modell nicht im Büro, aber auch nicht bei einem US-Konzern. Wieder andere verkaufen die Hardware allein, das Einrichten übernimmt der Kunde oder ein Dienstleister. Für die Frage, was mit Mandanten-, Patienten- oder Kundendaten passiert, ist diese Unterscheidung wichtiger als das Wort lokal.

Welche Anbieter stellen ein fertiges Gerät mit KI ins Büro?

WZ-IT aus Werl beschreibt den „Lokale KI AI Cube" als „schlüsselfertige lokale KI mit Hardware, Chat, Unternehmenswissen, abgestimmtem Modell, Support und Betrieb". Als Software nennt die Seite „KI-Chat, RAG und eigene Assistenten" mit einem lokalen Modell und Open WebUI. Zum Eigentum heißt es: „Das Gerät gehört Ihnen. Sie können den AI Cube jederzeit ohne uns weiterbetreiben." Als Zielgruppen nennt WZ-IT unter anderem Steuerberater, Rechtsanwälte, Wirtschaftsprüfer, Ärzte und Psychotherapeuten.

AIGENTICX aus Berlin schreibt: „Wir richten dir eine eigene KI-Workstation ein, bauen Agenten, die deine Aufgaben übernehmen, und beraten bei Auswahl, Einführung und Compliance." Die Workstation ist laut Seite Mac-mini-basiert, mit einem vorinstallierten mittelgroßen lokalen Sprachmodell. Agenten laufen „lokal auf unserer Workstation – oder wahlweise cloud-basiert". Genannt werden Ärzte, Anwälte, Notariate und Steuerberater.

MedLokal KI aus Berlin richtet sich nur an Arztpraxen und MVZ. Die Seite verspricht, aus einem Diktat einen fertigen Arztbrief zu machen, und schreibt: „Die KI läuft auf einem Server in Ihrer Praxis." Als Anbindung nennt sie gängige Praxisverwaltungssysteme wie Medistar, CGM, Dampsoft und Turbomed.

Context Studios aus Berlin „baut lokale KI-Infrastruktur beim Kunden auf": Hardware wie Mac Studio, NVIDIA DGX Spark oder Rechner mit AMD Ryzen AI Max, offene Sprachmodelle wie Qwen, DeepSeek oder GLM und KI-Agenten. Anfragen und Dokumente werden laut Seite „auf Ihrer Hardware verarbeitet". Genannt werden Kanzleien, Praxen, Industrie und Mittelstand.

Wer betreibt Sprachmodelle im eigenen Rechenzentrum oder in Deutschland?

NETWAYS aus Nürnberg führt den Bereich Künstliche Intelligenz mit „LLM Hosting im Unternehmen", „KI-as-a-Service aus deutscher Cloud" und „LLM mit eigenen Daten verbinden". Betrieben wird laut Seite „im eigenen Rechenzentrum für maximale Kontrolle oder in der NETWAYS Managed Services Cloud aus Deutschland", als Oberfläche nennt NETWAYS OpenWebUI.

ADVISORI aus Frankfurt am Main schreibt: „Lokale KI, in Europa gehostet." Offene Modelle werden laut Seite „in Ihrem Rechenzentrum oder an europäischen Standorten betrieben". Für den Betrieb beim Kunden nennt ADVISORI „Dedizierter Betrieb oder On-Premise"; das Standardangebot läuft auf der eigenen Infrastruktur des Anbieters an fünf europäischen Standorten.

Mindverse (Relativity GmbH, Berlin) gehört nicht zur lokalen KI im engen Sinn, taucht in den Suchen aber auf. Die Seite beschreibt Assistenten, Wissensdatenbanken, Agenten und Workflows „in einer sicheren Cloud-Umgebung, DSGVO-konform und gehostet in Deutschland"; die Inferenz läuft auf Wunsch „auf deutscher Infrastruktur". Einen Betrieb auf Hardware beim Kunden nennen die geprüften Seiten nicht.

Wo gibt es die Hardware allein?

Thomas-Krenn aus Freyung verkauft GPU-Server für Machine Learning, „mit Platz für bis zu acht GPU-Karten", und den NVIDIA DGX Spark mit 128 GB einheitlichem Systemspeicher. Für die Entwicklung von KI-Lösungen verweist Thomas-Krenn auf einen Partner. Ein fertiges Angebot für einen Chat über Dokumente oder für Agenten nennen die geprüften Seiten nicht.

NVIDIA selbst beschreibt den DGX Spark mit bis zu 128 GB Unified Memory und gibt an, dass sich damit Modelle mit bis zu 200 Milliarden Parametern ausführen lassen. Wie schnell ein Modell darauf für mehrere Personen antwortet, sagt diese Angabe nicht.

Wo steht Arasul in diesem Überblick?

Arasul ist Software für lokale KI im Unternehmen, ein Einzelunternehmen von Kolja Schöpe in Dresden. Arasul läuft auf einem Server im Büro und hostet dort eigene Apps und KI-Agenten, mit Anmeldung, Rollen, Freigaben, Sicherung und Update. Verifiziert läuft es heute auf dem NVIDIA Jetson AGX Orin, den NVIDIA DGX Spark richten wir nach der Bestellung ein.

Anders als die Geräte mit Chat-Oberfläche ist Arasul kein Chat über die Ablage und keine Wissenssuche. Stattdessen entstehen mit dem offenen Ara-Kit in Claude Code Apps für einzelne Aufgaben, und ein Agent liest den Firmenordner, den du ihm freigibst. Wer genau einen Chat über die eigenen PDFs sucht, ist mit einem anderen Angebot besser bedient. Was Arasul kann und was nicht, steht in den Fragen und Antworten.

Woran unterscheidest du die Angebote?

An ein paar Fragen, die jeder Anbieter beantworten kann:

• Wo rechnet das Modell? Im Büro, im eigenen Rechenzentrum, beim Anbieter in Deutschland oder in Europa. Das entscheidet, ob ein Dritter Zugriff auf die Eingaben hat.
• Wem gehört das Gerät, und läuft es ohne den Anbieter weiter? Manche Anbieter schreiben das ausdrücklich, andere nicht.
• Wer hat Fernzugang? Wer den Server aus der Ferne wartet, ist für Kanzleien und Praxen ein Dienstleister im Sinne von § 203 Abs. 3 StGB und muss zur Verschwiegenheit verpflichtet werden. Das gilt für jeden Anbieter, auch für lokale.
• Chat oder Aufgabe? Ein Chat über Dokumente beantwortet Fragen. Eine App oder ein Agent erledigt einen Ablauf, etwa Post einordnen oder einen Entwurf vorbereiten. Beides ist lokale KI, aber nicht dasselbe.
• Wer spielt Updates ein, und wie kommst du zurück? Ein Gerät im Büro braucht Sicherung und Updates wie jeder Server.

Dieser Überblick gibt die Selbstbeschreibung der Anbieter wieder und ist keine Empfehlung. Für Berufsgeheimnisträger ist er keine Rechtsberatung; die Pflichten aus § 203 StGB, § 43e BRAO und § 62a StBerG gelten bei jedem Anbieter.

Quellen

Alle Seiten abgerufen am 30.10.2026.

1. WZ-IT: Startseite, Lokale KI AI Cube, Impressum
2. AIGENTICX: Startseite, Impressum
3. MedLokal KI: Startseite, Impressum
4. Context Studios: Lokale KI-Agenten, Impressum
5. NETWAYS: Startseite, LLM-Hosting, Impressum
6. ADVISORI: Startseite, Lokale Sprachmodelle, Impressum
7. Mindverse: Enterprise, Sicherheit, Impressum
8. Thomas-Krenn: GPU-Server für Machine Learning, NVIDIA DGX Spark
9. NVIDIA: DGX Spark
10. § 203 StGB