Datensouveränität
Souveräne KI on-premise: offene Modelle im eigenen Haus für Fertigungsunternehmen
Kurz gesagt
Souveräne KI heißt: Modell, Daten und Protokolle bleiben unter Ihrer Kontrolle. Mit offenen Modellen auf eigenen GPUs lässt sich das für ERP-Auskunft, Dokumentensuche und Assistenz realisieren. Sie sparen keine Arbeit am Betrieb, gewinnen aber Kontrolle und Nachweisbarkeit.
Konstruktionsdaten, Kalkulationen und Kundenverträge gehören zum Kern vieler deutscher Mittelständler. Dass sie zur Nutzung von KI an eine externe Schnittstelle in einem Drittland gehen, ist für viele Geschäftsführer und Datenschutzbeauftragte nicht akzeptabel, zumal Kunden aus Luftfahrt, Verteidigung und Automobil entsprechende Vorgaben in Verträge schreiben.
Dieser Leitfaden zeigt, was souveräne KI technisch bedeutet, welche Hardware und Modelle realistisch sind, wie sie mit Ihrem ERP zusammenspielt und wo ein Cloud-Dienst mit europäischem Hosting die einfachere Wahl sein kann.
Was Souveränität konkret bedeutet
Souverän ist ein Betrieb, wenn Sie drei Dinge selbst bestimmen: wo die Modelle laufen, welche Daten sie sehen und wer die Protokolle einsehen kann. Das ist strenger als 'Server in Frankfurt': Auch ein Hosting in der EU kann dem Zugriff eines Anbieters mit Sitz außerhalb der EU unterliegen. Ob das für Sie relevant ist, hängt von Datenklasse und Kundenvorgaben ab.
In der Praxis unterscheiden wir drei Stufen: private Cloud eines europäischen Anbieters, eigenes Rechenzentrum oder Colocation mit eigener Hardware, und komplett abgeschottete Umgebung ohne Internetzugang für besonders schützenswerte Daten. Die Wahl richtet sich nach Schutzbedarf und Aufwand, nicht nach Prestige.
- Private europäische Cloud: schneller Start, geringerer Betriebsaufwand
- Eigenes Rechenzentrum oder Colocation: volle Kontrolle über Hardware
- Abgeschottete Umgebung: für Geheimschutz und Kundenvorgaben mit Netztrennung
Offene Modelle und Hardware: was realistisch ist
Offene Modelle der Klasse Llama, Qwen, Mistral, Gemma, gpt-oss oder DeepSeek laufen mit vLLM oder Ollama auf eigenen GPUs. Für ERP-Auskunft, Dokumentensuche und Zusammenfassungen genügen häufig mittlere Modelle auf wenigen GPUs; größere Modelle brauchen entsprechend mehr Speicher. Die richtige Größe wird am konkreten Anwendungsfall mit realen Fragen getestet, nicht anhand von Ranglisten.
Planen Sie Strom, Kühlung, Beschaffungszeiten für GPUs und Ersatzteile ein. Für einen Pilot reicht oft gemietete Kapazität in einer privaten Cloud; die Entscheidung für eigene Hardware fällt besser nach den ersten Messwerten zu Nutzung und Antwortqualität.
Zusammenspiel mit ERP und Dokumenten
Das Modell allein kennt Ihre Daten nicht. Zwei Bausteine machen es nützlich: eine lesende Abfrageschicht auf das ERP, die Fragen in geprüfte Abfragen übersetzt und Berechtigungen respektiert, und eine Suche über Dokumente wie Zeichnungen, Normen, Prüfberichte und Verträge mit Quellenangabe. Beides läuft in derselben abgesicherten Umgebung.
Schreibende Aktionen im ERP bleiben menschlich freigegeben. Die Protokolle enthalten Frage, abgerufene Daten und Antwort, sodass Sie später nachweisen können, was das System getan hat. Für Mitarbeiterdaten und mitbestimmungspflichtige Auswertungen binden Sie Datenschutz und Betriebsrat früh ein.
DSGVO, Geheimschutz und Kundenanforderungen
Die DSGVO verlangt eine Rechtsgrundlage, Datensparsamkeit und Dokumentation, unabhängig vom Betriebsort; ein Betrieb im eigenen Haus erleichtert aber die Nachweise und vermeidet Drittlandübermittlungen. Bei personenbezogenen Daten ist eine Datenschutz-Folgenabschätzung zu prüfen. Netray behauptet keine Zertifizierungen; die Architektur soll Ihnen helfen, Ihre eigenen Pflichten zu erfüllen.
Für Lieferanten der Rüstungs- und Luftfahrtindustrie kommen Vorgaben wie Geheimschutz, Exportkontrolle und Kundenauflagen hinzu. Ob ein bestimmtes Modell oder ein Betriebsmodell zulässig ist, entscheidet Ihre Geheimschutz- beziehungsweise Compliance-Stelle. Wir liefern die technische Grundlage für einen Betrieb ohne externe Abhängigkeit.
Einstieg und ehrliche Abwägung
Sinnvoller Start: ein Anwendungsfall, eine Datenklasse, eine Betriebsform. Im Assessment legen wir fest, welche Daten betroffen sind, welche Schutzstufe gilt und ob eine private Cloud genügt oder eigene Hardware nötig ist. Danach folgt ein Pilot mit Messung von Antwortqualität, Antwortzeit und Auslastung.
Ehrlich: Eigenbetrieb verursacht Aufwand für Updates, Überwachung und Know-how. Wenn Ihre Daten keinen besonderen Schutzbedarf haben und ein europäischer Cloud-Dienst Ihre Anforderungen erfüllt, ist er oft wirtschaftlicher. Souveränität ist eine Anforderung, die man begründen sollte, kein Selbstzweck.
Häufige Fragen
Reichen Server in Deutschland oder der EU für Datensouveränität?
Nicht automatisch. Entscheidend sind auch Betreiber, Zugriffsrechte und Rechtsordnung. Für besonders schützenswerte Daten ist ein Betrieb in eigener Hoheit oder in einer abgeschotteten Umgebung die sicherere Wahl.
Welche Modelle lassen sich on-premise betreiben?
Offene Modelle wie Llama, Qwen, Mistral, Gemma, gpt-oss oder DeepSeek-Klasse, bereitgestellt mit vLLM oder Ollama. Welche Größe passt, zeigen Tests mit Ihren realen Fragen.
Brauchen wir eigene GPUs für einen Pilot?
Nicht zwingend. Für den Pilot genügt oft gemietete Kapazität in einer privaten Cloud. Die Entscheidung für eigene Hardware sollte auf gemessener Nutzung beruhen.
Ist die Lösung DSGVO-konform?
Der Betrieb im eigenen Haus erleichtert die Einhaltung, ersetzt aber nicht Rechtsgrundlage, Dokumentation und gegebenenfalls eine Datenschutz-Folgenabschätzung. Die Architektur unterstützt Ihre Pflichten, eine Zertifizierung ist damit nicht verbunden.
Wann ist eine europäische Cloud die bessere Wahl?
Wenn die Daten keinen besonderen Schutzbedarf haben und Ihr Team den Betrieb eigener Hardware nicht stemmen soll. Dann sind Kosten und Betriebsaufwand meist geringer.
Weitere Leitfäden
KI-Agenten auf dem bestehenden ERP: ohne Migration, mit Freigabe durch Menschen
KI-Agenten auf dem vorhandenen ERP statt Migration: Einkauf, Disposition, Qualität und Vertrieb unterstützen, mit Freigabe durch Menschen, On-Premise und DSGVO-konform.
ERP und OT-nahe SystemeNIS2 in der Fertigung: Was ERP, Schnittstellen und KI-Systeme jetzt leisten müssen
NIS2 in der Fertigung: Pflichten, Meldefristen und Lieferkette, und was sie für ERP, Schnittstellen und KI-Systeme bedeuten. Praxisleitfaden für den Mittelstand.
APplus und PSIpentaKI für APplus und PSIpenta: Auskunft und Assistenz für die Auftragsfertigung
KI auf APplus und PSIpenta: Auftragsfertigung, Stücklisten, Arbeitspläne und Feinplanung abfragen, On-Premise und DSGVO-konform, mit ehrlichem Blick auf Grenzen.
ERP (abas, proALPHA, APplus, PSIpenta, Infor, SAP)E-Rechnungspflicht: XRechnung und ZUGFeRD aus dem ERP, und wo KI sinnvoll hilft
E-Rechnungspflicht in Deutschland: XRechnung und ZUGFeRD aus dem ERP erzeugen und empfangen, Fristen 2025 bis 2028, GoBD, Prüfung und KI auf Eingangsrechnungen.
SAP S/4HANAKI für SAP S/4HANA on-premise: Antworten aus Ihren Daten, ohne dass etwas das Haus verlässt
KI auf SAP S/4HANA im eigenen Rechenzentrum: lokale Sprachmodelle, Zugriff über CDS Views und OData, Berechtigungen bleiben erhalten, DSGVO-konform und ohne Cloud-Abfluss.
abas ERPKI für abas ERP: Aufträge, Stücklisten und Varianten in Klartext abfragen
KI für abas ERP im Mittelstand: Fragen an Aufträge, Stücklisten und Infosysteme in natürlicher Sprache, mit lokalem Sprachmodell und ohne Daten an externe Dienste.
KI für Ihr ERP, sinnvoll eingesetzt
Buchen Sie ein kostenloses ERP-KI-Assessment. Wir klären Datenweg, Modell und Betriebsort und sagen Ihnen ehrlich, wenn KI nicht das richtige Werkzeug ist.
Kostenloses Assessment buchen