Den Mehrwert Generativer KI anhand konkreter Anwendungsfälle ausloten, statt lang herumzuexperimentieren – beim Übertragungsnetzbetreiber TransnetBW stand von Anfang an fest, wie der Start in die Welt der Generativen KI aussehen sollte. Gemeinsam mit 51nodes hat TransnetBW einen konkreten Gen-AI Use Case identifiziert, mit dem TransnetBW schnell in die Technologie einsteigen und handfeste Erfahrungen sammeln konnte.
Die Problemstellung
Betreiber von Stromübertragungsnetzen müssen etliche Regulierungen der EU und Spezifikationen des Verbands der Übertragungsnetzbetreiber berücksichtigen. Beispielsweise für den Stromaustausch zwischen verschiedenen Übertragungsnetzen. Diese Regulierungen sind selbst für erfahrene Mitarbeitende schwer zu durchschauen und neue Kollegen finden sich ohne die Unterstützung von Experten nur schwer im Vorgabendschungel zurecht.
Die Lösung
Gemeinsam mit 51nodes hat TransnetBW einen Knowledge Assistant entwickelt, mit dem Mitarbeitende des Systembetriebs schnell verständliche Antworten auf Regulierungsfragen erhalten. „Die EU-Regulierung und die dazugehörigen Spezifikationen sind unübersichtlich und oft schwer zu durchschauen“, erklärt Pavel Zolotarev, Leiter des Bereichs „Energie- und Ausgleichsmärkte“ bei TransnetBW. „Der Knowledge Assistant findet die für den jeweiligen Anwendungsfall relevanten Passagen in unterschiedlichen Gesetzestexten und fasst diese in einer einfach verständlichen Form zusammen.“
51nodes entwickelte den Knowledge Assistenten als Generative KI-Anwendung mit Hilfe eines Retrieval-Augmented-Generation (RAG)-Aufbaus. Regulierungsdokumente und Spezifikationsdokumente für den Systembetrieb von Übertragungsnetzen wurden von 51nodes mit Hilfe eines Computer-Skripts in inhaltlich zusammengehörige Paragrafen und Abschnitte zerlegt. Die Abschnitte wurden vektorisiert und als pinecone-Vektordatenbank für eine Generative-KI-Anwendung bereitgestellt.
Besonders herausfordernd für das Projektteam waren die mathematischen Formeln in den zu verarbeitenden Dokumenten. Einfache Textextraktionswerkzeuge erkennen zwar die Zeichen in PDF-Dokumenten, können aber die Formeln nicht reproduzieren. 51nodes nutzte deshalb leistungsfähige Tools wie pandoc zur Überführung von PDF-Inhalten in ein rein textbasiertes Markdown-Format inklusive LaTeX-Formeln. Formeln in diesem Format sind der Generativen KI gut zugänglich und verständlich.
Die erstellte Generative KI-Anwendung nutzt die „promptFusion“-Plattform von eXation, mit der Anwender komplexe mehrstufige Abläufe mit mehreren Prompts und verschiedenen Sprachmodellen einfach umsetzen können.
TransnetBW evaluierte den Knowledge Assistant erfolgreich und sucht weitere Anwendungsfelder, in denen Generative KI Arbeitsabläufe unterstützen und beschleunigen kann.