Alle wichtigen Begriffe, einfach erklärt
Das Glossar erklärt die Begriffe rund um KI, Hardware, Recht und Datenschutz so, dass Einsteiger und Entscheider sie verstehen.
Edge AI
Edge AI bedeutet, dass künstliche Intelligenz direkt auf lokaler Hardware läuft, statt in einem entfernten Rechenzentrum (Cloud).
Statt Daten an einen Cloud-Server zu schicken, verarbeitet ein lokales Gerät die Anfrage selbst. Das spart Latenz, schützt sensible Daten und funktioniert ohne Internetverbindung. Die Hardware dafür reicht von der NVIDIA Jetson-Serie bis zu kompakten KI-Servern wie dem NVIDIA DGX Spark.
Mehr dazu:Edge AI erklärt
LLM (Large Language Model)
Ein Large Language Model ist ein KI-Modell, das auf riesigen Textmengen trainiert wurde und natürliche Sprache verstehen und generieren kann.
Bekannte Modellfamilien sind GPT (OpenAI), Llama (Meta), Mistral und Qwen. LLMs können Texte zusammenfassen, Fragen beantworten, übersetzen und Code schreiben. Die Parameterzahl ist dabei nur ein Faktor: 7 Milliarden Parameter reichen für viele Business-Aufgaben, daneben entscheiden Trainingsdaten, Quantisierung und der konkrete Einsatzzweck über die Qualität.
Mehr dazu:Offene Sprachmodelle im Vergleich
RAG (Retrieval Augmented Generation)
RAG kombiniert eine Dokumentensuche mit einem Sprachmodell, um Antworten auf Basis eigener Unternehmensdaten zu generieren.
Statt nur auf sein Trainingswissen zurückzugreifen, durchsucht das Modell zuerst eine Wissensdatenbank (z. B. Verträge, Handbücher, E-Mails) und beantwortet die Frage dann mit konkreten Quellenangaben. Arasul selbst bringt keine Dokumentensuche mit: Wer sie braucht, baut sie als App und hält den Index auf dem eigenen Server.
Mehr dazu:Was eine App bei Arasul ist
Quantisierung
Quantisierung reduziert die Speichergröße eines KI-Modells, indem die Präzision der Gewichte verringert wird, z. B. von 16 Bit auf 4 Bit.
Ein 70-Milliarden-Parameter-Modell braucht normalerweise 140 GB Speicher. Mit 4-Bit-Quantisierung passt es in 35 GB, bei 96 % der ursprünglichen Qualität. Das macht es möglich, leistungsstarke Modelle auf kompakten KI-Servern wie dem DGX Spark zu betreiben.
Mehr dazu:Offene Sprachmodelle im Vergleich
Token
Ein Token ist die kleinste Einheit, die ein Sprachmodell verarbeitet, ungefähr ein Wort oder ein Wortteil.
Cloud-KI-Anbieter berechnen ihre Preise pro Token. 1 Million Tokens entsprechen ungefähr 750.000 Wörtern. Bei lokaler KI fallen keine Kosten je Token an: Server und Lizenz bezahlst du einmal, laufend kommen Strom von rund 20 Euro im Monat und, wenn du sie willst, die Wartung dazu.
Mehr dazu:Die Kostenrechnung
Open-Source-Modell
Ein Open-Source-KI-Modell hat offene Gewichte: Die Modelldatei darf heruntergeladen, auf eigener Hardware betrieben und angepasst werden.
Bekannte offene Modellfamilien kommen von Meta (Llama), Mistral (Frankreich), Alibaba (Qwen) und Google (Gemma), die Lizenzen unterscheiden sich je Modell. Gegen die größten Cloud-Modelle bleibt ein Qualitätsabstand, für strukturierte Alltagsaufgaben wie Entwürfe, Zusammenfassungen oder das Sortieren von E-Mails fällt er kaum ins Gewicht. Offene Gewichte sagen allerdings nichts darüber, ob ein Modell in den Speicher deiner Hardware passt.
Mehr dazu:Offene Sprachmodelle im Vergleich
Ollama
Ollama ist ein Open-Source-Tool, das lokale KI-Modelle auf dem eigenen Server verwaltet und ausführt.
Mit einem einzigen Befehl (ollama run und der Name des Modells) lädst du ein Sprachmodell herunter und startest es lokal. Ollama unterstützt Llama, Mistral und Qwen, dazu viele weitere Modelle. Arasul nutzt Ollama als Modellverwaltung.
Mehr dazu:On-Premise-KI
n8n
n8n ist ein Open-Source-Workflow-Automatisierungstool mit visuellem Editor, vergleichbar mit Zapier oder Make, aber selbst hostbar.
Mit n8n erstellst du Workflows per Drag-and-Drop: E-Mails empfangen, PDFs auslesen und KI-Modelle abfragen, dann die Ergebnisse in Excel oder Datenbanken schreiben. Arasul selbst setzt es nicht ein: Abläufe sind dort Flows, die als Markdown zum App-Paket gehören und mit der App versioniert werden.
Mehr dazu:KI-Agenten im Unternehmen
Vendor Lock-in
Vendor Lock-in bedeutet, dass ein Unternehmen von einem bestimmten Anbieter abhängig wird und nicht ohne Weiteres wechseln kann.
Bei Cloud-KI-Diensten entsteht Lock-in durch proprietäre APIs, Datenformate und Workflows. Preiserhöhungen oder Serviceänderungen sind dann kaum zu umgehen. Lokale KI mit Open-Source-Modellen vermeidet dieses Problem, Modelle und Daten gehören dir.
Mehr dazu:On-Premise-KI
Claude Code
Claude Code ist ein Coding-Agent von Anthropic: Du beschreibst in Worten, was du brauchst, und er schreibt und ändert den Code dafür.
Mit dem offenen Ara-Kit entstehen in Claude Code die internen Apps, die Arasul auf deinem Server betreibt. Claude Code läuft dabei bei dir oder deinem Partner am Arbeitsplatz, nicht auf dem Server. Seine KI-Verarbeitung läuft über die API von Anthropic und sieht deinen Code, nie die Daten auf dem Server.
Mehr dazu:Wie Apps bei Arasul entstehen
Coding-Agent
Ein Coding-Agent ist ein KI-Werkzeug, das im Auftrag eines Menschen Code liest, schreibt und ausführt, statt nur Vorschläge zu machen.
Er arbeitet in einem Projektordner, führt Befehle aus und sieht das Ergebnis, bevor er weitermacht. Claude Code ist ein Beispiel dafür. Vom KI-Agenten im Betrieb unterscheidet er sich im Zweck: Der Coding-Agent baut die Software, ein KI-Agent in einem Flow erledigt danach eine Aufgabe im Alltag, etwa eine Rechnung auslesen.
Skill
Ein Skill ist eine abgelegte Anleitung samt Werkzeugen, die einem Coding-Agenten eine bestimmte Aufgabe beibringt, etwa einen Server prüfen oder eine App bauen.
Der Agent zieht den Skill heran, wenn die Aufgabe ansteht, und arbeitet ihn Schritt für Schritt ab, statt jedes Mal neu zu raten. Das offene Ara-Kit besteht aus solchen Skills für Claude Code: klonen, Gerät verbinden, App bauen.
Mehr dazu:Apps mit dem Ara-Kit bauen
NVIDIA DGX Spark
Der NVIDIA DGX Spark ist ein kompakter KI-Server im Desktop-Format mit 128 GB kohärentem Speicher, den sich Prozessor und Grafikeinheit teilen.
Er läuft an einer normalen Steckdose, nimmt bei Inferenz 60 bis 90 Watt auf und trägt offene Sprachmodelle bis etwa 120 Milliarden Parameter, quantisiert. Für die meisten kleinen und mittleren Unternehmen reicht er, er trägt etwa 3 bis 10 gleichzeitig aktive Nutzer. Die größere DGX Station liefern wir derzeit nicht. Verifiziert läuft Arasul heute auf dem NVIDIA Jetson AGX Orin. Den DGX Spark kannst du bei uns für rund 5.850 Euro netto bestellen, Arasul richten wir nach der Bestellung darauf ein.
NVIDIA Jetson AGX Orin
Der NVIDIA Jetson AGX Orin ist ein kompaktes KI-Modul aus der Jetson-Serie, mit 32 bis 64 GB Arbeitsspeicher und 15 bis 60 Watt Leistungsaufnahme.
Die Jetson-Serie ist NVIDIAs Hardware-Plattform für Edge AI, vom kleinen Orin Nano bis zum AGX Thor. Auf dem Jetson AGX Orin ist die Installation von Arasul gemessen, deshalb nennen wir ihn als verifizierten Server. Für Modelle, die mehr Speicher brauchen, ist der DGX Spark mit 128 GB die größere Klasse.
Lokales Modell
Ein lokales Modell ist ein Sprachmodell, das auf Hardware im eigenen Unternehmen rechnet, statt bei einem Cloud-Anbieter.
Anfragen und Antworten verlassen dabei das eigene Netzwerk nicht. Welches Modell passt, entscheidet vor allem der Speicher: Das ganze Modell muss hineinpassen, die Geschwindigkeit hängt an der Speicherbandbreite. Bei Arasul laufen offene Modelle über Ollama direkt auf dem Server und sind je Flow wechselbar. Schaltest du für eine Aufgabe ein externes Cloud-Modell dazu, gehen genau diese Anfragen nach draußen.
Inferenz
Inferenz ist der Vorgang, bei dem ein trainiertes KI-Modell auf neue Daten angewendet wird und sein Gelerntes anwendet.
Das Gegenstück ist Training (das Modell lernt aus Daten). Für Unternehmensanwendungen brauchst du in der Regel nur Inferenz: Texte zusammenfassen, Rechnungen auslesen, E-Mails beantworten. Inferenz ist viel weniger rechenintensiv als Training und läuft auf lokaler Hardware. Wie schnell, bestimmt vor allem die Speicherbandbreite: Token pro Sekunde entsprechen ungefähr der Bandbreite in GB/s geteilt durch die aktive Modellgröße in GB. Ein dichtes 70-Milliarden-Modell mit rund 40 GB erzeugt auf dem DGX Spark mit 273 GB/s etwa 5 Token pro Sekunde.
Mehr dazu:KI-Hardware für Unternehmen
DSGVO (Datenschutz-Grundverordnung)
Die DSGVO ist die europäische Verordnung zum Schutz personenbezogener Daten. Sie regelt, wie Unternehmen Daten erheben, verarbeiten und speichern dürfen.
Für KI-Anwendungen besonders relevant: Art. 6 (Rechtsgrundlage), Art. 22 (automatisierte Entscheidungen), Art. 25 (Privacy by Design) und Art. 35 (Datenschutz-Folgenabschätzung). Bei Cloud-KI findet eine Datenübermittlung an Dritte statt, die eine Rechtsgrundlage erfordert.
Mehr dazu:DSGVO-konforme KI
Art. 9 DSGVO
Art. 9 DSGVO regelt besondere Kategorien personenbezogener Daten, darunter Gesundheitsdaten, und verbietet ihre Verarbeitung grundsätzlich, solange keine Ausnahme greift.
Für Praxen öffnet Abs. 2 Buchstabe h die Verarbeitung zur Gesundheitsvorsorge, Diagnostik, Versorgung und Behandlung, nach Abs. 3 aber nur durch Personal, das einem Berufsgeheimnis unterliegt. Dazu kommt die ärztliche Schweigepflicht nach § 203 StGB. Jede Cloud-KI, die einen Arztbrief sieht, verlangt deshalb eine saubere Vertragskette. Verarbeitet die Praxis lokal, erlangt kein Dritter Kenntnis.
Mehr dazu:Lokale KI in der ArztpraxisPatientendaten lokal nutzen
§ 203 StGB
§ 203 StGB stellt das unbefugte Offenbaren fremder Geheimnisse durch Berufsgeheimnisträger unter Strafe, etwa durch Ärzte, Rechtsanwälte, Steuerberater und Wirtschaftsprüfer.
Anders als die DSGVO schützt er auch Geheimnisse von Unternehmen, und die Strafe trifft den Berufsträger persönlich: Freiheitsstrafe bis zu einem Jahr oder Geldstrafe. Als Offenbaren gilt schon, dass ein externer Anbieter die Möglichkeit hat, Kenntnis zu nehmen. Seit 2017 erlaubt Abs. 3 das Einbinden mitwirkender Dienstleister, die Bedingungen dafür stehen im Berufsrecht (§ 43e BRAO, § 62a StBerG). Rechnet die KI auf Hardware im eigenen Netzwerk, gibt es keine mitwirkende Person, und die Frage stellt sich gar nicht erst.
Mehr dazu:Lokale KI für Kanzleien§ 203 StGB und KI
AVV (Auftragsverarbeitungsvertrag)
Ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO regelt, wie ein Dienstleister personenbezogene Daten im Auftrag eines Unternehmens verarbeitet.
Wer Cloud-KI mit personenbezogenen Daten nutzt, braucht ihn, dazu eine Rechtsgrundlage und je nach Fall eine Datenschutz-Folgenabschätzung. Für Berufsgeheimnisträger reicht er nicht: Ob überhaupt offenbart werden darf, regelt die Verpflichtung nach § 203 StGB zusammen mit dem Berufsrecht. Ein Vertrag ersetzt den anderen nicht. Rechnet die KI auf dem eigenen Server, gehen die Daten an keinen KI-Anbieter.
Mehr dazu:DSGVO-konforme KIAVV und § 203 StGB
DPIA (Datenschutz-Folgenabschätzung)
Eine DPIA ist eine von der DSGVO vorgeschriebene Risikobewertung, die durchgeführt werden muss, wenn eine Datenverarbeitung voraussichtlich hohe Risiken für Betroffene birgt.
KI-Systeme, die personenbezogene Daten verarbeiten, erfordern in den meisten Fällen eine DPIA (Art. 35 DSGVO). Bei lokaler Verarbeitung ist die DPIA deutlich einfacher, da keine Datenübermittlung an Dritte stattfindet.
Mehr dazu:DSGVO-konforme KI
Drittlandtransfer
Ein Drittlandtransfer ist die Übermittlung personenbezogener Daten an einen Empfänger außerhalb der EU, etwa an einen US-Cloud-Anbieter.
Er braucht eine belastbare Rechtsgrundlage. Für die USA ist das heute meist das EU-US Data Privacy Framework: Die Klage dagegen hat das Gericht der EU am 3. September 2025 abgewiesen, das Rechtsmittel beim EuGH ist anhängig. Dazu kommt der US CLOUD Act, der US-Unternehmen zur Herausgabe von Daten verpflichtet, auch wenn die Server in Frankfurt stehen. Läuft die KI On-Premise, gehen keine Daten in ein Drittland.
Mehr dazu:On-Premise-KIDSGVO-konforme KI
On-Premise
On-Premise bedeutet, dass Software oder Hardware im eigenen Unternehmen betrieben wird, statt in der Cloud eines Drittanbieters.
Die Daten bleiben im eigenen Netzwerk, und es gibt keine Übermittlung an Dritte, die du vertraglich absichern musst. Um den Server, den Strom und die Updates kümmert sich dafür das Unternehmen selbst oder ein Partner. Für Branchen mit Berufsgeheimnis wie Steuerberatung, Recht oder Gesundheit ist On-Premise-KI oft der einfachste Weg, DSGVO und Schweigepflicht zugleich einzuhalten.
Mehr dazu:On-Premise-KI im Unternehmen
EU AI Act
Der EU AI Act ist das weltweit erste umfassende KI-Gesetz. Er reguliert den Einsatz von KI in der EU, abgestuft nach Risiko.
Die Pflichten greifen gestuft: Seit dem 2. August 2026 gelten vor allem Transparenzpflichten, die Hochrisiko-Pflichten (Personalentscheidungen, Kreditvergabe) wurden auf Ende 2027 verschoben. KI-Systeme werden in Risikoklassen eingeteilt, von verboten (Social Scoring) bis minimal. Bußgelder reichen bis 35 Mio. EUR oder 7 % des Jahresumsatzes.
Mehr dazu:AI Act ab 2. August 2026
Begriffe geklärt?
Schau dir an, was lokale KI in deinem Unternehmen kann, oder lies weiter im Blog.