Ziel des Projekts ist es, mithilfe eines lokal betriebenen LLMs Vorgangsdaten aus unserem ERP-System - beispielsweise aus den Bereichen Produktion, Einkauf und Verkauf - flexibel zu verarbeiten, auszuwerten und abzufragen. Die Anbindung an das ERP-System erfolgt über dessen REST-API, sodass aktuelle Vorgangsdaten automatisiert bereitgestellt und vom lokalen LLM analysiert werden können. Der Einsatz eines lokalen Modells stellt dabei sicher, dass sensible Unternehmensdaten das eigene Netzwerk nicht verlassen und die Datenhoheit jederzeit gewahrt bleibt.
Um das lokale LLM auf die spezifischen Anforderungen und die fachliche Domäne des Unternehmens auszurichten, kommen RAG-Verfahren (Retrieval-Augmented Generation) sowie ergänzend angebundene Online-LLMs zum Einsatz. Auf diese Weise lässt sich das Modell gezielt spezialisieren, ohne es vollständig neu trainieren zu müssen. Im Ergebnis entsteht eine intuitive Benutzeroberfläche, über die Anwender per Schlüsselwörtern mit dem System kommunizieren und gezielte Auswertungen anstoßen können - auch ohne tiefergehende technische Kenntnisse.
Ein konkretes Anwendungsbeispiel ist die Auswertung aktueller Prüfdaten aus der Produktion: Das System soll Aufschluss darüber geben, in welche Richtung sich die Qualität innerhalb eines zuvor festgelegten Toleranzkorridors entwickelt. So lassen sich Trends und Abweichungen frühzeitig erkennen, bevor sie kritische Grenzwerte erreichen. Darüber hinaus eröffnet der Ansatz weitere Einsatzmöglichkeiten, etwa die Analyse von Einkaufskonditionen, Lieferzeiten oder Verkaufszahlen. Insgesamt schafft das Vorhaben die Grundlage für einen datengetriebenen, KI-gestützten Zugang zu den im ERP-System vorhandenen Informationen und macht komplexe Auswertungen für ein breites Anwenderspektrum schnell und unkompliziert zugänglich.