ERP-Daten in natürlicher Sprache abfragen: so funktioniert es

Im Kern gibt es zwei Verfahren. Beim Text-to-SQL erzeugt das Sprachmodell aus der Frage eine Datenbankabfrage, die geprüft und ausgeführt wird. Beim Retrieval werden Dokumente, Stammdatentexte und Beschreibungen durchsucht und als Kontext an das Modell gegeben. In der Praxis kombiniert man beides.

Der entscheidende Baustein ist eine semantische Schicht: eine gepflegte Beschreibung, welche Tabellen und Felder was bedeuten, wie ein 'offener Auftrag' definiert ist und welche Filter immer gelten. Diese Schicht kommt von Menschen, die Ihr ERP kennen. Ohne sie rät das Modell.

Ein Abfragewerkzeug darf nicht zum Hintereingang werden. Es sollte die Rollen des ERP übernehmen, mit einem lesenden Benutzer oder Replikat arbeiten und alle Abfragen protokollieren. Prompt-Injection ist ein reales Risiko, wenn Dokumente oder Freitextfelder in den Kontext gelangen: Inhalte aus Daten dürfen keine Anweisungen auslösen.

Beim Betrieb entscheidet die Frage, wohin die Daten gehen. Läuft das Modell privat, auf Ihrer Hardware oder in Ihrer privaten Cloud, verlassen weder Fragen noch ERP-Daten Ihren Bereich. Bei Cloud-KI-Diensten brauchen Sie eine Auftragsverarbeitung nach DSGVO und eine Prüfung von Drittlandübermittlungen. Der Betriebsrat sollte beteiligt werden, wenn Auswertungen Beschäftigte betreffen können.

Wenn Ihre Fragen sich wiederholen, ist ein gutes Dashboard oder ein Standardbericht günstiger und stabiler. Auch SAP, Microsoft, Infor und andere Hersteller bauen eigene Assistenten in ihre Produkte. Prüfen Sie diese zuerst, wenn Sie nur ein System haben und keine besonderen Anforderungen an Datenresidenz haben.

Ein eigener Aufbau lohnt sich bei mehreren Systemen, bei On-Premise-Pflicht, bei Branchenvorgaben wie in Luftfahrt und Rüstung oder wenn Sie Modell und Daten selbst kontrollieren wollen.