Lösungsansatz

Zu Beginn des Projektes stand für das Team von b.telligent eine umfassende Analyse der bestehenden Plattform. In intensiven Gesprächen mit dem Expertenteam von idem telematics sowie im Rahmen eines Workshops wurden nicht nur die Funktion der Plattform und die verschiedenen Datenquellen untersucht und verstanden. Darüber hinaus konnte das b.telligent Team durch sorgfältiges Requirements Engineering den Need, die Herausforderungen und die Vision des Kunden für das Projekt herausarbeiten. Darauf aufbauend entwarfen die Data Science & AI-Expert:innen eine grundlegende Architektur, die den Grundstein für den auf Large Language Model-(LLM)-basierenden Agenten legte und übernahm die Implementierung auf Basis ihrer Code Foundation.

Eine besondere Herausforderung dieses Projekts waren die vielfältigen Datenquellen, aus denen sich die Telematikplattform speist. Um diesen zu begegnen, wurde das Projekt in einzelne Meilensteine aufgeteilt, um so schrittweise Zielerreichung und Erfolg des Projekts sicherzustellen und messbar zu machen.

Intelligente Datenverarbeitung: Live- und historische Daten nahtlos integriert

Der erste wichtige Schritt war die Anbindung der Live-Daten. Der Agent basiert auf einem mehrstufigen Verfahren, bei dem LLMs mehrere Schritte durchlaufen, um zur gewünschten Antwort zu gelangen. Zunächst entscheidet ein LLM, ob für die Anfrage ein Datenzugriff erforderlich ist. Falls ja, generiert das LLM im nächsten Schritt Abfragen, um die relevanten Live-Daten aus der Datenbank abzurufen. Anschließend nutzt ein weiteres LLM diese Daten, um eine präzise Antwort zu liefern.
‍
Der nächste entscheidende Meilenstein war die Integration historischer Daten. Dank der modularen Architektur konnte b.telligent zusätzliche Schritte in das Verfahren des Agenten einbauen. Das LLM erstellt auf Basis der Benutzeranfrage Datenbank-Statements, um historische Daten aus einer der Datenbanken abzurufen. Der Agent entscheidet nun nicht nur zwischen Datenbankzugriff oder nicht, sondern erkennt auch zuverlässig, ob es sich um Live- oder historische Daten handelt.
‍
Zur Evaluierung des Agenten erstellte b.telligent einen Fragenkatalog und führte interne Feldversuche durch. Basierend auf den Ergebnissen optimierte das Team anschließend das gesamte System in enger Abstimmung mit dem Kunden.

Enge Zusammenarbeit – nachhaltige Wirkung

Während des gesamten Projekts legte das Team von b.telligent besonders großen Wert auf die enge Zusammenarbeit mit idem telematics. Übergeordnetes Ziel war es, die Mitarbeiter:innen vor Ort so in die Entwicklung und vor allem die Funktionsweise des Agenten einzubeziehen, dass diese ihn nach Beendigung des Projekts problemlos nutzen und weiterentwickeln können, ohne dabei auf die Expertise von b.telligent angewiesen zu sein.