- Entdecken Sie unser Branchenwissen
- Projektreferenzen
- Ein smarter Assistent, der Informationen als strategisches Asset verwaltet
Ein smarter Assistent, der Informationen als strategisches Asset verwaltet
Flexible, sichere Architektur
Der smarte Assistent nutzt die robuste Google-Cloud-Architektur für den sicheren und schnellen Zugriff auf umfangreiche Unternehmensinformationen.
Schnellere Suche
Die KI-basierte Lösung verkürzt den Zeitaufwand für die Suche nach relevanten Informationen signifikant, sodass Ihr Team effizienter arbeiten und faktenbasierte Entscheidungen treffen kann.
Innovative Personalisierung
Mit maßgeschneiderten Empfehlungen und automatisierten Antworten bietet die Lösung ein individuelles Nutzungserlebnis und ungeahnte Produktivität.
„Der smarte Assistent markiert den Beginn einer neuen Ära der Innovation bei GFT. Dank unserer umfassenden Expertise und Erfahrung mit generativer KI konnten wir eine Lösung für ein universelles, branchenübergreifendes Problem entwickeln.“
Die Herausforderung
Im Zuge seines globalen Outreach-Programms sammelt GFT regelmäßig Feedback von seinen zahlreichen Kunden aus unterschiedlichen Branchen. Wenn sich zeigt, dass ein Problem universell auftritt, unternimmt GFT alles, um innovative Lösungen zu finden, und nutzt dazu seine bewährte Fast-Prototyping-Methodik, die auf Large Language Models (LLMs), Retrieval Augmented Generation und Multi-Agent-Systemen beruht, um die Qualität von Daten und Ergebnissen zu verbessern.
Viele große Unternehmen kämpfen mit einer Informationsschwemme zu diversen internen Themenbereichen. Besonders deutlich wird dies, wenn neue Mitarbeiter mit den bestehenden Prozessen und Informationen eines Unternehmens konfrontiert sind. Häufig gibt es zahlreiche Informationsquellen in diversen Silos. Dieses Problem zeigt sich vor allem bei globalen Organisationen, die durch die Übernahme anderer Unternehmen gewachsen sind, in denen es sehr unterschiedliche Kulturen, Vorgehensweisen, Prozesse und Technologien gab.
Auch im Tagesgeschäft ist die Informationssuche immer wieder eine Herausforderung, zum Beispiel, wenn eine Anwältin bis zu 60 Minuten benötigt, um eine bestimmte Klausel in einem 200-seitigen Vertrag zu finden. Laut Untersuchungen könnten schlechte Entscheidungen aufgrund eines falschen Verständnisses von Informationen zu Verlusten von rund 10 Milliarden US-Dollar pro Jahr führen.
Es gibt aber auch gute Nachrichten. Wie IBM berichtet**, kann der IT-Support durch Automatisierung und Chatbots um bis zu 30 Prozent entlastet werden, und Zendesk hat erforscht***, dass Organisationen, die Chatbots einsetzen, bis zu 60 Prozent der Bearbeitungszeit für Supporttickets einsparen.
Mit viel Erfahrung und Know-how in Bezug auf dieses universelle Suchproblem ist GFT die Aufgabe angegangen, einen KI-basierten smarten Assistenten zu entwickeln, der auf bewährten GFT Technologien basiert. Die anvisierte LLM-Lösung sollte mit Dokumenten interagieren, um Informationen aufzufinden und so ein schnelleres und besseres Verständnis als je zuvor zu erreichen.
„Wenn Menschen große Mengen an Informationen verstehen wollen, ist zwangsläufig viel Zeit nötig. Darunter leidet die Produktivität, der Supportbedarf wächst, und es kommt zu höheren geschäftlichen Risiken. Im Laufe der Zeit bilden sich in der Organisation außerdem Informationssilos heraus.“
Das Projekt
GFT setzt KI und LLMs seit deren Aufkommen ein und hat mehrere Chatbots entwickelt, die mithilfe von Technologien zur Verarbeitung natürlicher Sprache schnelle und korrekte Antworten bereitstellen. Ziel dieses Projektes war es, Benutzern ein Tool zur Verfügung zu stellen, mit dem sich beliebige interne Wissensbestände in natürlicher Sprache nach Informationen durchsuchen lassen.
Konkret sollten hierbei die menschlichen Fähigkeiten erweitert werden, indem eine direkte Echtzeitkonversation mit beliebigen Informationsquellen – typischerweise lange, komplexe Dokumente – ermöglicht wird. Auch wenn die Anzahl der möglichen Anwendungsfälle unbegrenzt ist, wäre das Tool beispielsweise direkt für die regulatorische Compliance bei Finanzdienstleistungen oder, allgemeiner, für die Einhaltung von Datenschutzvorgaben wie der DSGVO nutzbar. Die passende Lösung würde nicht nur viel Zeit sparen, sondern auch für korrekte, konsistente Ergebnisse sorgen und faktenbasierte Entscheidungen ermöglichen.
Um Skalierbarkeit und ein verlässliches Deployment zu gewährleisten, wurde der smarte Assistent in einer Google Cloud Platform (GCP)-Architektur entwickelt. Diese steht als sichere Infrastructure-as-a-Service zur Verfügung und umfasst zahlreiche bewährte Managementtools, die regelmäßig aktualisiert werden.
Zum Funktionsumfang des smarten Assistenten zählen außerdem:
- RAG-Architektur. Damit ein LLM effektiv funktionieren und relevante Ergebnisse liefern kann, muss es entsprechend angepasste Daten aus diversen Quellen nutzen. Der smarte Assistent basiert auf einem adaptiven RAG-Framework (Retrieval Augmented Generation), in dem externe Quellen zusammengeführt werden, um bessere kontextuelle Einblicke und eine optimierte Korrektheit der Antworten zu gewährleisten.
- Personalisiertes Nutzungserlebnis. Damit jeder Anwender schnellere und bessere individuelle Ergebnisse erhält, arbeitet der smarte Assistent mit angepassten Benutzerprofilen und Interaktionshistorien.
- Modernes LLM. Künstliche Intelligenz entwickelt sich in rasantem Tempo. Das System ist flexibel aufgebaut, sodass es mit vielen unterschiedlichen LLMs verschiedener Anbieter verwendbar ist und bei Bedarf für schnelle, korrekte Antworten zwischen LLMs wechseln kann.
- Authentifizierung und API-Anbindung. Viele Organisationen wechseln zu offenen, modularen Architekturen, die über Programmierschnittstellen (APIs) angesprochen werden können. Der smarte Assistent unterstützt dieses Konzept und ermöglicht so die Integration in beliebige Ziel-Infrastrukturen.
Der smarte Assistent kombiniert Skalierbarkeit mit Flexibilität. Zusammen mit der vollständigen API-Unterstützung ist diese Lösung die strategische Antwort auf die fortlaufenden Herausforderungen bei der Suche und Bereitstellung von Informationen. Neue Modelle und Komponenten lassen sich ganz einfach und ohne Unterbrechung des Geschäftsbetriebs integrieren.
„Mit zahlreichen Kunden in verschiedenen Branchen kennt GFT die Herausforderungen vieler Unternehmen genau. Dazu zählt nahezu immer die Suche in riesigen Beständen an komplexen, geschäftskritischen Daten aus vielen Quellen. Unser smarter Assistent basiert auf KI und LLMs und bietet eine flexible Lösung für diese universelle geschäftliche Herausforderung.“
Der Vorteil
Die neue Plattform stellt eine optimale Kombination aus einem LLM und den GFT eigenen Data-Retrieval-Modellen dar. Das leistungsfähige Modell wird mit maßgeschneiderten Daten trainiert und kann Ergebnisse generieren, die passgenauer und akkurater sind, als es mit einem einfachen LLM möglich wäre.
Dank der offenen Architektur kann das Modell sehr einfach mit neuen Daten zu beliebigen Themen trainiert werden. In der Praxis wird das Modell als „intelligente Verarbeitungsmaschine“ eingesetzt, die sich leicht mit Daten befüllen lässt und deren Ergebnisse problemlos teilbar sind.
Von diesem Modell profitieren vor allem Unternehmen, die kein zentrales Daten-Repository haben. Indem sie Suchergebnisse teilen, können Unternehmen die Zusammenarbeit verbessern und Best Practices für häufig auftretende Herausforderungen etablieren. Der smarte Assistent spart Zeit und Geld und ermöglicht bessere Ergebnisse sowie eine kontinuierliche Verbesserung im Unternehmen.
Die Lösung lässt sich außerdem so anpassen, dass Fragen in einem bestimmten Stil beantwortet werden – beispielsweise für juristische Fragen anders als für Anfragen vom Kundenservice. Das Modell ist komplett mehrsprachig und antwortet stets in der Sprache, in der die Anfrage gestellt wurde.
Auch wenn sich der smarte Assistent in jedem beliebigen Sektor einsetzen lässt, eignet er sich doch besonders für Branchen, in denen große Mengen komplexer Daten anfallen. Es wurden bereits Feldversuche in der Finanzdienstleistungsbranche und im Outsourcing durchgeführt, und die Plattform wird kontinuierlich anhand der Bedürfnisse ihrer Nutzer verbessert.
* McKinsey & Company. The Social Economy: Unlocking Value and Productivity through Social Technologies – Executive Summary. Abgerufen von: https://www.mckinsey.com.
** IBM. Unlocking the Power of Chatbots: Key Benefits for Businesses and Customers. Abgerufen von: https://www.ibm.com.
*** Zendesk. Official Website. Abgerufen von: https://www.zendesk.com/it/.
