.svg)
1. Wie haben Sie mit dem Aufbau von KI-Integrationen begonnen?
„Kurz nach dem Start von ChatGPT begann ich, mit der Integration von KI mithilfe der Alumio Integration Platform (iPaaS) zu experimentieren. Die Ergebnisse der frühen GPT-Modelle waren nicht besonders gut, aber da ich das zukünftige Potenzial sah, nutzte ich es zunächst, um meinen Prozess der Erstellung von Workflows innerhalb von Alumio zu unterstützen.
Mein erstes Projekt zum Aufbau einer KI-Integration entstand, als ich einem Kunden davon abgeraten habe, ein Übersetzungstool für seine E-Commerce-Website zu verwenden, was auf lange Sicht zu technisch und problematisch war. Stattdessen schlug ich eine KI-gestützte Alternative vor, die das Alumio iPaaS verwendete, das wir bereits nutzten, um ihnen bei der Integration von Akeneo, ihrem PIM-System (Product Information Management), zu helfen.
Nachdem ich mehrere KI-Lösungen erkundet hatte, landete ich auf der Vertex-KI-Plattform von Google und wählte deren Gemini-Modelle für das Integrationsprojekt aus. Die Übersetzung der Produkte aus dem Englischen oder Niederländischen in andere Sprachen mit Gemini war einfach und schnell. Die Verwendung von Alumio iPaaS zur Integration von KI in das Akeneo PIM-System des Kunden war ebenfalls relativ einfach und unkompliziert.
Der Integrationsablauf, den wir in Alumio aufgebaut haben, beinhaltet:
a) Abrufen von Produktdaten (auf Englisch oder Niederländisch) aus dem Akeneo PIM in Alumio.
b) Zuordnung der Daten in Alumio, die an die Gemini AI-Lösung gesendet werden sollen.
c) Senden der Attribute von Produkten, die übersetzt werden müssen, über Alumio in das Gemini AI-Modell.
e) Empfangen der Übersetzungen von Gemini und Speichern im spezifischen Umfang dieser Sprache.
In rund 16 Stunden haben wir 12.000 Produkte mit dieser KI-Integration übersetzt. Wir sparten dem Kunden etwa 500—600 € an monatlichen Gebühren ein, die ihn die andere Übersetzungsanwendung gekostet hätte. Die Kapitalrendite wurde in nur drei Monaten erzielt.“
2. Wie hilft ein iPaaS bei KI-Integrationen?
„Wenn Sie ein iPaaS wie Alumio verwenden, ist das Hinzufügen von KI in den Integrationsablauf relativ einfach und passt tatsächlich gut zu der Funktionsweise von iPaaS. In der Regel ruft der iPaaS Daten aus einem System ab, wandelt sie in ein strukturiertes Format um und überträgt sie an ein anderes System. Wenn Sie KI einführen, ist der Prozess fast identisch: Sie rufen die Daten ab, strukturieren und ordnen diese Daten so zu, wie es die KI erwartet, senden sie in das KI-Modell/die Blackbox, erhalten eine Antwort und verarbeiten oder leiten diese Antwort dann entsprechend weiter.
Es gibt zwei Möglichkeiten, wie KI in Kombination mit einem iPaaS effektiv eingesetzt werden kann: Die erste ist derzeit schwieriger und beinhaltet den Einsatz von KI, um die Integrationsentwicklung selbst innerhalb des iPaaS zu verbessern, und die zweite beinhaltet die Integration von KI, um die Produktfunktionen zu verbessern.
- Verbesserung der Integrationsentwicklung mit KI: Was den ersten Anwendungsfall angeht, füttere ich das KI-Tool mit meinen Strategien und Vorlagen für die Erstellung von Integrationen mit Alumio. Als Reaktion darauf hilft die KI dabei, eine grundlegende Implementierung dieser Strategien zu erstellen, wobei sie nicht die vollständige Abbildung erstellt oder Geschäftslogik anwendet, mir aber die grundlegenden Grundlagen gibt. Zum Beispiel gibt sie mir die eingehende Konfiguration zum Abrufen von Daten von Akeneo und beinhaltet eine Logik zum Speichern von Zeitstempeln. Auf diese Weise ruft jeder Lauf nur neue oder aktualisierte Daten ab. Mit anderen Worten, es hilft, schnell ein Gerüst für Routen zu erstellen, was die frühen Phasen der Integrationseinrichtung beschleunigen kann.
- Integration von KI mit anderen Tools oder Apps: Auf der Produktseite kann die Integration von KI über das Alumio iPaaS dazu beitragen, komplexe Aufgaben wie die Übersetzung von Produktdaten zu automatisieren (wie im vorherigen Beispiel erläutert). KI ist besonders effektiv bei der Strukturierung unstrukturierter Daten. Ein Machbarkeitsnachweis, den wir derzeit durchführen, beinhaltet beispielsweise die Automatisierung der Verarbeitung von Bestellungen, die als PDF per E-Mail eingehen. Der Kunde möchte diese Bestellungen automatisch in sein ERP importieren. Während einige ihrer Lieferanten strukturierte EDI-Daten senden, die sich problemlos in ihr ERP integrieren lassen, senden viele nach einer mündlichen Bestellung einfach PDF-Dateien per E-Mail. Herkömmliche OCR-Tools, die zum Lesen von PDFs verwendet werden könnten, erfordern für jeden Lieferanten eine eigene Vorlage, die bei Layoutänderungen ständig unterbrochen wird. Um dieses Problem zu lösen, haben wir ein System eingerichtet, bei dem Lieferanten PDF-Dateien per E-Mail an einen dafür vorgesehenen Posteingang senden. Anschließend haben wir eine Integration für den Alumio iPaaS entwickelt, um die PDF-Bestellungen aus diesem Posteingang abzurufen und an das Gemini-KI-Tool zu senden. Gleichzeitig reicherten wir die Anfrage mit Kontextdaten aus dem ERP an (z. B. dem vollständigen Lieferantenkatalog). Gemini verweist auf diese ERP-Daten und extrahiert dann bestimmte Daten aus dem PDF, wie Lieferantennamen oder Bestelldetails, sodass wir automatisch strukturierte Bestellungen erstellen können.
Insgesamt beschleunigt Alumio zwar bereits die Art und Weise, wie wir Integrationen erstellen und Prozesse für unsere Kunden automatisieren, aber das Hinzufügen von KI trägt definitiv dazu bei, die Effizienz an beiden Fronten zu steigern.“
3. Was ist die Fehlerquote beim Erstellen von KI-Integrationen?
„Die meisten generativen KI-Fehler hängen davon ab, wie viele Kontextinformationen die KI erhält. Im vorherigen Beispiel, in dem wir Alumio verwendet haben, um eine Integration zu erstellen, mit der Lieferanten-PDFs zur Anreicherung an Gemini gesendet werden können, haben wir auch den Datenaustausch so geändert, dass er Kontextdaten aus dem ERP (vollständiger Lieferantenkatalog) einbezieht. Auf diese Weise kann die KI intelligente Verknüpfungen herstellen, wenn sie die Lieferanten-PDFs in Bestellungen umwandelt. Wenn beispielsweise in einem PDF „BR Green“ als Lieferant aufgeführt ist, kann die KI verstehen, dass es sich im ERP wahrscheinlich um „Brothers Green“ handelt. Das Hinzufügen weiterer Kontextinformationen reduziert also definitiv die Fehlerwahrscheinlichkeit.
Um die Fehlerquote bei generativer KI zu reduzieren, kombinieren wir unsere KI-Integrationen in der Regel mit einer Benutzeroberfläche, die anzeigt, welche Inhalte die KI generiert, und es Benutzern ermöglicht, sie zu überprüfen, bevor sie live geschaltet werden. Wir konfigurieren Alumio auch so, dass Prüfungen im Hintergrund durchgeführt werden. So werden beispielsweise Unstimmigkeiten gemeldet, wenn der Preis auf der Bestellung nicht den Erwartungen des ERP entspricht. Der Grad der Überwachung hängt vom Anwendungsfall ab. Einige Unternehmen sind damit einverstanden, KI-übersetzte Produktdaten direkt in ihren Webshop zu übertragen, ohne sie zu überprüfen. Andere bestehen auf einer manuellen Genehmigung vor der Veröffentlichung. Aber für kritische Prozesse wie Bestellungen, bei denen Fehler finanzielle Auswirkungen haben können, ist es unerlässlich, zu überprüfen, was die KI generiert.“
4. Was sind Die größten Herausforderungen bei der Integration von KI?
„Die derzeit größte Herausforderung besteht darin, dass die meisten KI-Modelle immer noch grundsätzlich auf großen Sprachmodellen (LLMs) basieren. Selbst auf der API-Seite sind sie in erster Linie für Chatbot-ähnliche Interaktionen konzipiert, was wir normalerweise nicht in Integrationen verwenden. Es gibt Funktionen wie Funktionsaufrufe oder strukturierte Ausgaben (was beispielsweise Googles Gemini unterstützt). Dennoch erhalten wir oft Antworten im Klartext, die ein JSON-Objekt enthalten, anstatt direkt das richtige strukturierte JSON zu erhalten. Dies zeigt, dass diese Modelle immer noch im Konversationsdesign verwurzelt sind, selbst wenn sie für Backend-Prozesse verwendet werden.
Dies hat uns eine ganze Reihe von Problemen bereitet, insbesondere wenn es um die Deserialisierung von Antworten geht. Die Modelle können Code recht gut verstehen, generieren ihn aber immer noch als Rohtext. Das bedeutet, dass sie ein Komma vergessen, eine geschweifte Klammer übersehen oder andere kleine Syntaxfehler machen können, die einen Prozess zum Erliegen bringen können. Der Umgang mit diesen Inkonsistenzen erfordert zu Beginn einige Arbeit, aber die Modelle verbessern sich rasant und sind bereits viel zuverlässiger als vor einem Jahr.“
.svg)
.svg)
.svg)
.svg)
.svg)
.svg)
