In der heutigen Ära der künstlichen Intelligenz (KI) stehen uns eine Vielzahl von Modellen und Technologien zur Verfügung, die es uns ermöglichen, faszinierende Anwendungen zu entwickeln. Einer dieser Pioniere auf dem Gebiet der KI ist Damir Dobric, der uns einen Einblick in die Welt von GPT (Generative Pre-trained Transformer) und dessen Anwendung gegeben hat. Neben den Grundlagen der Funktionsweise von GPT hat Damir uns auch einen Einblick in die neue Art von Anwendungen gegeben, die diese Technologie ermöglicht. Er nannte dies in seinem Vortrag “Software V2”. Es handelt sich dabei um Anwendungen, die in der Lage sind, transparent Large Language Modelle zu integrieren.
Videomitschnitt aus der KI-Keynote an der Microsoft Build in Wien 2023:
Embeddings: Die Transformation von Daten
Ein Schlüsselaspekt, den Damir hervorhebt, ist die Verwendung von Embeddings, um Daten aus dem multidimensionalen Raum nutzbar zu machen. Embeddings sind die Vektoren zur Darstellung von Semantik, welche leicht verstanden werden kann. Damir erklärt mit einem vereinfachten Beispiel, wie drei Texte im dreidimensionalen Raum in ihrer Semantik dargestellt werden können und die Distanzen zwischen ihnen berechnen werden können. Diese Distanzen sind entscheidend, um die Ähnlichkeiten zwischen Texten zu verstehen und für Anwendungen zu nutzen.
Die Essenz von GPT
Damir beginnt seine Erklärung mit einer grundlegenden Idee - GPT ist eine Completion Engine und keine bösartige Intelligenz. Es ist ein Transformer-Algorithmus, der mit einem Attention-Algorithmus angereichert ist, der vorhersagt, was als nächstes Wort erscheinen sollte.
Das Geheimnis des Generierens
Die Faszination beginnt, wenn wir uns fragen, was eigentlich beim Generieren passiert. Hier kommt die enorme Leistungsfähigkeit von GPT ins Spiel. Ein Trainingsvorgang für ein Modell wie GPT-4 kann mutmaßlich 17 Millionen Dollar kosten. Prozess von Generieren von Antworten kann mit verschiedenen Parametern beeinflusst werden. Beispielsweise kann Parameter die Temperatur die Kreativität von GPT festlegen. Wenig Kreativität (Temperatur = 0) bedeutet, dass bei identischem Input, der gleiche Output erzeugt wird. Mit Temperatur = 1, wird GPT kreativ und kann Texte schreiben, die immer anders ausfallen. Manchmal möchten wir kreativ sein, aber wenn es um geschäftliche Anwendungen geht, müssen wir meistens deterministisch sein und zuverlässige Ergebnisse erzielen.
Die Werkzeuge des Handwerks
Damir teilt auch seine Werkzeuge mit uns. Er arbeitet mit C#/.NET, verwendet JSON und verwendet Ayure OpenAI REST WebService, um Antworten auf Texte zu generieren oder Entitäten zu extrahieren. Das Ergebnis wird in einer übersichtlichen Zusammenfassung präsentiert. Außerdem betont er die Bedeutung des Experimentierens mit verschiedenen Prompts, um den gewünschten Text zu erstellen.
Eine maßgeschneiderte KI-Lösung
Eines der aufregendsten Konzepte, die Damir vorstellt, ist die Idee, dass man mit einer Completion Engine eine maßgeschneiderte KI-Lösung erstellen kann, die weit mächtiger ist als Arbeiten mit Prompts, das heute eine gängige Praxis ist. Dies Technik verwendet eigene Daten, egal wo diese abgelegt sind.
Wenn die bestehende Chat-Modelle verwendet werden, könne ebenso eigene Daten angereichert werden. Diese Technik nennt man “Grounding” und steht in Azure OpenAI zur Verfügung.
Datenanonymisierung und Prompts
Ein weiterer wichtiger Aspekt, den Damir anspricht, ist die Nutzung von Prompts für die Anonymisierung von Daten. Prompts sind Befehle oder Anfragen, die dazu dienen, Benutzer zur Interaktion an GPT aufzufordern, um spezifische Texte oder Informationen zu generieren. Sie helfen, gewünschte Handlungen oder Eingaben von Benutzern zu initiieren.
Die Kunst der Ähnlichkeiten
Damir führt uns auch in das spannende Konzept der Ähnlichkeitsberechnungen ein. Er zeigt uns am Beispiel von Kundenmails, wie Techniken zur Berechnung von Ähnlichkeiten genutzt werden, um Lösungen zu entwickeln, die besser als herkömmliches Prompting funktionieren. Die Fähigkeit, Texte anhand von Ähnlichkeiten zu analysieren, eröffnet neue Horizonte für die Anwendung von KI in der Geschäftswelt.
Was ist AI mit Semantic Kernel?
Damir erklärt Semantic Kernel, welches es Entwicklern ermöglicht, KI-Dienste in ihre Apps einzubinden. Er bietet Verbindungen zum Hinzufügen von Erinnerungen und Funktionen, um Ihre App intelligenter zu machen. Außerdem können Sie mit Semantic Kernel einfach Fähigkeiten hinzufügen, um mit der realen Welt zu interagieren. Dies geschieht mithilfe von Plugins, die auf Auslöser reagieren und Aufgaben ausführen – so wird Ihre App leistungsfähiger. Der semantische Kernel ist also wie das “Gehirn” und die Plugins wie der “Körper” Ihrer App.
Mein Fazit
Insgesamt ermöglicht uns Damir Dobric mit seinen Erklärungen einen tiefen Einblick in die Funktionsweise von GPT und die damit verbundenen Prozess von Herstellung neuartigen Softwarelösungen. Die Kombination von Embeddings, Prompts und Ähnlichkeitsberechnungen eröffnet viele Möglichkeiten für die Anwendung von KI in verschiedenen Geschäftsbereichen. Zum Beispiel kann die Entwicklung einer unternehmensspezifische KI-Softwarelösung mit Hilfe von Embeddings bei unternehmerischen, strategischen Entscheidungen einen großen Nutzen bringen.
Es ist klar, dass die Welt der künstlichen Intelligenz noch viele Überraschungen bereithält, und wir können gespannt sein, wie diese Technologien unsere zukünftigen Entscheidungen und Lösungen beeinflussen werden.