Und täglich grüßt das Murmeltier

Wir haben bei uns im Kollegenkreis festgestellt, dass im Laufe eines typischen Arbeitstages der Hauptteil unserer Aufgaben darin besteht, Probleme zu lösen.

Fragen wie: Wo finde ich die passende Präsentation für einen bestimmten Kundentermin? Wo finde ich die passende Referenzstory? Welche Kandidatin oder welchen Kandidaten sollten wir einstellen? Diese Fragen tauchen immer wieder auf. Und wir müssen zugeben, dass wir ihnen in den kommenden Monaten erneut begegnen werden, wenn auch mit geringfügigen Abweichungen im Kontext und den betreffenden Technologien.

Stellen Sie sich vor, wie großartig es wäre, wenn wir einfach mit einer Anwendung, die GPT oder ein ähnliches Sprachmodell als Basis verwendet fragen könnten: Wie habe ich das Problem das letzte Mal gelöst? Oder noch besser: Wie hat die letzte Person in unserer Firma dieses Problem gelöst? Wenn dies für Sie nach einer weit entfernten Zukunft klingt, liegen Sie falsch. Es gibt bereits viele domänenspezifische Systeme. Die aktuellen Fortschritte in der Künstlichen Intelligenz (KI) und insbesondere im Natural Language Processing (NLP) ermöglichen es, diese Systeme weiterzuentwickeln, um Lösungen zur allgemeinen Informationsbeschaffung anzubieten.

In diesem Artikel werden wir reale Fallbeispiele von Empfehlungs- und Informationsabfragesystemen in Unternehmen untersuchen. Dabei möchten wir aufzeigen, dass die Werkzeuge und Technologien bereits ausgereift sind und diese Systeme problemlos in einer Vielzahl neuer Anwendungsfälle wiederverwendet werden können. Außerdem werden wir Ihnen praktische Vorschläge machen, wie Sie vorhandene organisatorische Hindernisse überwinden und diese Technologien erfolgreich in Ihrem Unternehmen einführen können.

Beispiele für bestehende Systeme zur Abfrage von Empfehlungugen und Informationen:  Content-Management-Plattformen für Kundenservice und Sales.

Große Unternehmen setzen bereits verschiedene Empfehlungs- und Informationsabfragesysteme ein, um ihr gesammeltes Wissen effektiv zu nutzen. Wir bei daenet beschäftigen uns seit längerer Zeit damit, Sprachmodelle wie Microsoft Azure OpenAIs ChatGPT in sicherer und konformer Weise für Kunden nutzbar zu machen, um Quantensprünge bei der Informationsverarbeitung zu erreichen.

• Content-Management-Plattformen

Unternehmen können die Angebote von Microsoft OpenAI nutzen, um gezielt nach Informationen wie Kundenmaterial und Präsentationen über Content Management Plattformen zu suchen. OpenAI bietet hier eine breite Palette von Tools und APIs, die Unternehmen dabei unterstützen können, spezifische Informationen nicht nur per textueller Suche, sondern durch semantische Relevanz zu finden.

• Information Retrieval

Microsoft OpenAI bietet auch Tools und APIs für Information Retrieval, die Unternehmen dabei helfen können, spezifische Informationen zu finden. Hierbei lassen sich semantische Ähnlichkeiten zwischen Inhalten nutzen. Unternehmen können diese Angebote verwenden, um in ihren internen Datenbanken, Wissensdatenbanken oder externen Quellen nach relevanten Informationenüber Content Management Plattformen zu suchen und diese miteinander zu korrelieren. Dadurch können sie gezielt nach Kundenmaterialien, Präsentationen oder anderen relevanten Inhalten suchen.

• Analyse und Kategorisierung

Unternehmen können OpenAI nutzen, um Texte über Content Management Plattformen zu analysieren und automatisch zu kategorisieren. Dadurch wird es einfacher, relevante Informationen wie Kundenmaterialien oder Präsentationen zu identifizieren und abzurufen. Noch interessanter ist jedoch der schnelle Zugriff auf neuartige Entscheidungsgrundlagen, da alle relevanten Daten transparent und in kürzester Zeit zur Verfügung stehen, selbst wenn nach komplexen inhaltlichen Zusammenhängen gesucht wird.

Durch die Möglichkeit der Analyse und Kategorisierung von Daten und Inhalten, können wir eine Matrix-Clusterung mit Themenschwerpunkten erstellen. Diese wiederum stellt ein hochwirksames Tool zur strategischen Unternehmenssteuerung dar.

• Chatbot-Integration

Unternehmen können Sprachmodelle wie OpenAIs ChatGPT in ihre eigenen Chatbot-Systeme integrieren, um Kundenanfragen auf Basis der Content Management Inhalte effektiv zu beantworten. Indem sie fortgeschrittene Sprachmodelle verwenden, kann der Chatbot auf eine breite Wissensbasis zugreifen und genaue und relevante Informationen über Content Management Plattformen liefern. Dadurch wird der Kundenservice verbessert und Unternehmen können schnelle und präzise Antworten auf Kundenfragen bereitstellen.

Suchtypen

Es ist wichtig zu beachten, dass der Einsatz von Diensten wie OpenAIs Sprachmodelle zur Suche nach Informationen auch mit der richtigen Datenverwaltung und Datenschutzmaßnahmen einhergehen muss, um sicherzustellen, dass sensible Informationen angemessen geschützt werden.

Hier sind einige gängige Suchtypen:

• Stichwortsuche: Benutzer können Schlüsselwörter oder Phrasen eingeben, um nach relevanten Inhalten zu suchen. Die Suchmaschine durchsucht dann die vorhandenen Wissensdatenbanken, Ticketverläufe und andere Ressourcen nach Übereinstimmungen.
• Volltextsuche: Diese Art der Suche durchsucht den gesamten Textinhalt von Dokumenten, Tickets oder Wissensdatenbanken nach Übereinstimmungen mit den eingegebenen Suchbegriffen. Es können komplexe Abfragen verwendet werden, um spezifische Informationen zu finden.
• Filterbasierte Suche: Hier können Benutzer Suchergebnisse filtern, um bestimmte Kriterien oder Eigenschaften einzuschränken. Dies kann beispielsweise nach Datum, Kategorie, Priorität oder anderen Metadaten erfolgen, um die Relevanz der Ergebnisse zu erhöhen.
• Automatische Vervollständigung: Während der Eingabe liefert das System mögliche Vorschläge oder Ergänzungen, um die Suche zu erleichtern. Dies basiert auf häufigen Suchanfragen oder bekannten Schlüsselwörtern.
• Kategorien- oder Tagsuche: Informationen können nach bestimmten Kategorien oder Tags organisiert sein. Benutzer können diese Kategorien durchsuchen, um relevante Informationen zu einem bestimmten Thema zu finden.
• Semantische Suche: Der Inhalt der Dokumente wird auf Basis der semantischen Ähnlichkeit zu einer Suchanfrage oder zu Beispieldokumenten hin gefunden. Dies ermöglicht, Zusammenhänge zu finden, die eine Volltextsuche nicht finden würde.

Die genaue Art der Suche in den kundenspezifischen Informationssystemen kann von Organisation zu Organisation unterschiedlich sein und hängt von den verwendeten Tools und Plattformen ab.

Azure Sentinel

Die Anwendung von Ähnlichkeitssuche beschränkt sich nicht nur auf unternehmensspezifische Systeme. Viele Incident-Management-Lösungen bieten derartige Funktionen. Ein Beispiel dafür ist Azure Sentinel, eine Software zur Verwaltung von Sicherheitsvorfällen. Microsoft hat vor kurzem die Funktion “Similar Incidents” in der Vorschauversion veröffentlicht. Dadurch erhalten Administrator*innen eine Liste bereits gelöster Tickets zu vergleichbaren Problemen, die ihnen bei der Bearbeitung aktueller Vorfälle hilfreiche Informationen bieten können. Diese Integration von Ähnlichkeitssuche erleichtert die effiziente Handhabung und Lösung von wiederkehrenden oder ähnlichen Problemen im Incident-Management.

Erfahrungen durch Information Retrieval

Das Feld des Information Retrieval (IR), das seit rund 50 Jahren intensiv erforscht wird, ermöglicht die effektive Suche nach unstrukturierten Dokumenten, hauptsächlich in Textform, um den Informationsbedarf innerhalb großer Sammlungen zu erfüllen. Ein bekanntes Beispiel für ein IR-System ist Google, das hervorragende Ergebnisse bei Websuchen liefert. Allerdings sind diese Systeme noch nicht in gleichem Maße für unternehmensbezogene, institutionelle und domänenspezifische Suchanforderungen geeignet. Erst in den letzten Jahren hat die Bedeutung dieses Szenarios zunehmend zugenommen.

Dank des Fortschritts großer Sprachmodelle, wobei ChatGPT das bekannteste Beispiel ist, wird die Suche in komplexen Unternehmensdatenspeichern immer einfacher. Zudem ist das Big-Data-Ökosystem bereits sehr ausgereift, sodass Infrastruktur- und Data-Engineering-Herausforderungen mit Standardtools bewältigt werden können. Diese Faktoren haben dazu geführt, dass das Thema, das ursprünglich nur für Early Adopters relevant war, nun langsam von der Mehrheit der Unternehmen aufgegriffen wird und mit dem richtigen Implementierungspartner keine Science Fiction mehr ist, sondern einen echten Wettbewerbsvorteil darstellen kann.

Praktische Anwendungsmöglichkeiten dieser Tools

Die jüngsten Fortschritte in der künstlichen Intelligenz vereinfachen die Anwendung von Information Retrieval-Techniken erheblich. Moderne Modelle verfügen bereits über das semantische Verständnis, das früher umfangreiches manuelles sogenanntes „Feature Engineering“ erforderte. Wenn Sie diese Techniken noch nicht in Ihrer täglichen Arbeit einsetzen, sollten Sie dies ernsthaft in Erwägung ziehen.

Die meisten Industriezweige stehen vor den Herausforderungen, sich wiederholender Probleme, die innerhalb weniger Monate mehrmals auftreten. Ein intelligentes System könnte die meisten Aufgaben im Zusammenhang mit der Problemlösung mit minimaler menschlicher Aufsicht erledigen. Hierfür ist lediglich der Zugriff auf digitale Datensätze erforderlich, die beschreiben, wie ähnliche Probleme in der Vergangenheit gelöst wurden.

Es gibt eine Vielzahl von vorhandenen technologischen Grundlagen, auf denen aufgebaut werden kann

ElasticSearch “das könnte Ihnen auch gefallen”-Funktion: Diese Abfragemethode in der bekannten Plattform ElasticSearch ermöglicht das Auffinden von Dokumenten, die einer vorgegebenen Menge von Dokumenten ähnlich sind.

Azure Cognitive Search: Eine Suchmaschine von Microsoft, ähnlich wie ElasticSearch, jedoch mit vielen Optionen für KI-basierte Erweiterungen und Integrationen mit vielen anderen Azure-Diensten.

OpenAI Embeddings and Search: Dies sind APIs von OpenAI, welche auf neuronalen Modellen basieren  und den semantischen Vergleich zwischen einer Suchanfrage (was Sie suchen) und einer Reihe von Dokumenten (wo Sie suchen) ermöglicht.

Open Capivara: Ein Open-Source-Projekt, das ein kognitiver Layer für die Suche nach Support-Tickets entwickelt hat.

Gründe für die zögerliche Einführung von Information-Retrieval-Systemen

Trotz der Vielzahl verfügbarer Werkzeuge fragen Sie sich vielleicht, warum nicht jedes Unternehmen diese nutzt. Es gibt verschiedene Perspektiven, die erklären, warum Unternehmen Schwierigkeiten bei der Einführung haben:

1. Aus Sicht von Ingenieurinnen und Entwicklerinnen: Die Architektur von Information Retrieval-Systemen unterscheidet sich grundlegend von den meisten anderen Softwarelösungen und erfordert spezifisches Fachwissen für die Implementierung. Gleiches gilt für die Bewertung und Testmethoden, was die Bestätigung der Korrektheit des entwickelten Systems erschwert.

2. Aus Sicht der Nutzerinnen: Die meisten Menschen sind es nicht gewohnt, bei ihrer Arbeit an die “Informationsgewinnung in großen Datenbanken” zu denken. Daher fällt es ihnen schwer, die Vorteile von IR-Systemen voll auszuschöpfen. Wenn die Benutzeroberfläche nicht intuitiv ist oder das Verhalten des Systems für die Benutzerinnen nicht klar ist, werden selbst die besten IR-Systeme nicht umfassend akzeptiert.

3. Aus Sicht von Managerinnen und Produktverantwortlichen: Die Integration von IR-Funktionen in ein bestehendes System erfordert nicht nur technisches Know-how zur Entwicklung der Funktionen, sondern auch eine strategische Vision, wie diese Funktionen einen Mehrwert schaffen können und wie ihre Entwicklung priorisiert werden sollte. Oftmals fehlt es Managerinnen und Produktverantwortlichen an dieser Vision, und sie bevorzugen traditionellere Technologien.

Unser Fazit

Die gute Nachricht ist, dass der derzeitige Innovationschub in der Künstlichen Intelligenz die technischen Hürden zur Einführung von extrem leistungsfähigen IR-Systemen enorm gesenkt hat. Dadurch ist es auch möglich, beispielsweise über Prototyping oder über konkrete Problemlösungbeispiele, auch für Nutzerinnen und Managerinnen den Mehrwert von modernen IR-Systemen für deren Aufgabenstellungen aus der Abstraktion zu konkret erlebbaren zu machen.

Wir raten daher Unternehmen dazu, mit einem geeigneten Technologiepartner in diese neue Welt einzutauchen, um so Wettbewerbsvorteile zu erschließen.