.svg)
1. Hoe ben je begonnen met het bouwen van AI-integraties?
„Kort na de lancering van ChatGPT begon ik te experimenteren met de integratie van AI met behulp van het Alumio-integratieplatform (iPaaS). De resultaten met de vroege GPT-modellen waren niet geweldig, maar gezien het potentieel voor de toekomst heb ik het in eerste instantie gebruikt om mijn proces van het creëren van workflows binnen Alumio te ondersteunen.
Mijn eerste project in het bouwen van een AI-integratie kwam tot stand toen ik een klant adviseerde om geen vertaaltool te gebruiken voor hun e-commerce website, wat op de lange termijn te technisch en problematisch was. In plaats daarvan heb ik een AI-gestuurd alternatief voorgesteld met behulp van de Alumio iPaaS, die we al gebruikten om hen te helpen Akeneo, hun PIM-systeem (Product Information Management), te integreren.
Na verschillende AI-oplossingen te hebben verkend, kwam ik terecht op het Vertex AI-platform van Google en koos ik hun Gemini-modellen voor het integratieproject. Het vertalen van de producten vanuit het Engels of Nederlands naar andere talen met Gemini was eenvoudig en snel. Het gebruik van de Alumio iPaaS om AI te integreren met het Akeneo PIM-systeem van de klant was ook relatief eenvoudig en duidelijk.
De integratiestroom die we binnen Alumio hebben opgebouwd, omvat:
a) Het ophalen van productgegevens (in het Engels of Nederlands) van de Akeneo PIM in Alumio.
b) Het in kaart brengen van de gegevens binnen Alumio om naar de Gemini AI-oplossing te worden gestuurd.
c) Het verzenden van de kenmerken van producten die moeten worden vertaald naar het Gemini AI-model via Alumio.
e) De vertalingen van Gemini ontvangen en ze opslaan in het specifieke bereik van die taal.
In ongeveer 16 uur vertaalden we 12.000 producten met deze AI-integratie. We hebben de klant ongeveer €500—600 aan maandelijkse kosten bespaard die de andere vertaalapplicatie hem zou hebben gekost. Het investeringsrendement werd in slechts drie maanden behaald.”
2. Hoe helpt een iPaaS bij AI-integraties?
„Bij gebruik van een iPaaS zoals Alumio is het relatief eenvoudig om AI toe te voegen aan de integratiestroom en past het eigenlijk goed bij hoe de iPaaS al werkt. Meestal haalt de iPaaS gegevens uit het ene systeem, zet deze om in een gestructureerd formaat en pusht deze naar een ander systeem. Wanneer je AI introduceert, is het proces vrijwel identiek: je haalt de gegevens op, structureert en brengt deze in kaart op de manier die de AI verwacht, stuurt ze naar het AI-model/de black box, ontvangt een reactie en verwerkt of routeert die reactie vervolgens dienovereenkomstig.
Er zijn twee manieren waarop AI effectief kan worden gebruikt in combinatie met een iPaaS: de eerste is op dit moment uitdagender, en het betreft het gebruik van AI om de integratieontwikkeling zelf binnen de iPaaS te verbeteren, en de tweede betreft de integratie van AI om de productmogelijkheden te verbeteren.
- Verbetering van de integratieontwikkeling met AI: Wat de eerste use case betreft, voed ik de AI-tool met mijn strategieën en sjablonen voor hoe ik integraties bouw met Alumio. Als reactie hierop helpt de AI bij het genereren van een basisimplementatie van deze strategieën, waarbij niet de volledige mapping wordt gemaakt of bedrijfslogica wordt toegepast, maar het geeft me wel de basisconfiguratie. Het geeft me bijvoorbeeld de inkomende configuratie om gegevens van Akeneo op te halen en bevat logica om tijdstempels op te slaan. Op deze manier haalt elke run alleen nieuwe of bijgewerkte gegevens op. Met andere woorden, het helpt om snel een skelet voor Routes te genereren en dit kan de vroege stadia van het opzetten van de integratie versnellen.
- AI integreren met andere tools of apps: Aan de productkant kan de integratie van AI via de Alumio iPaaS helpen bij het automatiseren van complexe taken, zoals het vertalen van productgegevens (zoals beschreven in het vorige voorbeeld). AI is bijzonder effectief in het structureren van ongestructureerde data. Eén proof-of-concept dat we momenteel gebruiken, bestaat bijvoorbeeld uit het automatiseren van de verwerking van inkooporders die via e-mail als PDF zijn ontvangen. De klant wil deze inkooporders automatisch importeren in zijn ERP. Sommige van hun leveranciers sturen gestructureerde EDI-gegevens die eenvoudig kunnen worden geïntegreerd met hun ERP, maar veel van hun leveranciers e-mailen gewoon PDF's na een mondelinge bestelling. Traditionele OCR-tools die kunnen worden gebruikt om PDF's te lezen, hebben voor elke leverancier een uniek sjabloon nodig, dat voortdurend breekt met wijzigingen in de lay-out. Om dit op te lossen, hebben we een systeem opgezet waarbij leveranciers PDF's naar een speciale inbox e-mailen. Vervolgens hebben we een integratie gebouwd voor de Alumio iPaaS om de PDF-bestellingen uit deze inbox op te halen en naar de Gemini AI-tool te sturen, terwijl we de aanvraag hebben verrijkt met contextuele gegevens uit het ERP (zoals de volledige leverancierscatalogus). Gemini vergelijkt deze ERP-gegevens en extraheert vervolgens specifieke gegevens uit de PDF, zoals namen van leveranciers of bestelgegevens, waardoor we automatisch gestructureerde inkooporders kunnen aanmaken.
Over het algemeen versnelt Alumio de manier waarop we integraties bouwen en processen voor onze klanten automatiseren, maar de toevoeging van AI helpt zeker om de efficiëntie op beide fronten te verhogen.”
3. Wat is de foutmarge bij het bouwen van AI-integraties?
„De meeste generatieve AI-fouten zijn afhankelijk van de hoeveelheid contextuele informatie die de AI ontvangt. In het vorige voorbeeld, waar we Alumio gebruikten om een integratie te bouwen om PDF's van leveranciers naar Gemini te sturen voor verrijking, hebben we bijvoorbeeld ook de gegevensuitwisseling aangepast om contextuele gegevens uit het ERP (volledige leverancierscatalogus) op te nemen. Hierdoor kan de AI slimme associaties maken bij het omzetten van de PDF's van leveranciers in inkooporders. Als een PDF bijvoorbeeld „BR Green” als leverancier vermeldt, kan de AI begrijpen dat dit waarschijnlijk verwijst naar „Brothers Green” in het ERP. Het toevoegen van meer contextuele informatie verkleint dus zeker de kans op fouten.
Om de foutmarge met generatieve AI te verkleinen, combineren we onze AI-integraties doorgaans met een gebruikersinterface, die laat zien welke inhoud de AI genereert en gebruikers in staat stelt deze te bekijken voordat deze live gaat. We configureren Alumio ook om op de achtergrond controles uit te voeren, bijvoorbeeld om afwijkingen te signaleren als de prijs van de bestelling niet overeenkomt met wat het ERP verwacht. De mate van toezicht hangt af van de gebruikssituatie. Sommige bedrijven vinden het goed om door AI vertaalde productgegevens rechtstreeks naar hun webshop te sturen zonder deze te bekijken. Anderen dringen aan op handmatige goedkeuring alvorens te publiceren. Maar voor kritieke processen zoals inkooporders, waar fouten financiële gevolgen kunnen hebben, is het essentieel om te valideren wat de AI genereert.”
4. Wat zijn de grootste uitdagingen als het gaat om de integratie van AI?
„De grootste uitdaging op dit moment is dat de meeste AI-modellen nog steeds fundamenteel gebaseerd zijn op grote taalmodellen (LLM's). Zelfs aan de API-kant zijn ze voornamelijk ontworpen voor chatbot-achtige interacties, en dat is niet hoe we ze doorgaans gebruiken in integraties. Er bestaan functies zoals het aanroepen van functies of gestructureerde uitvoer (die bijvoorbeeld door Gemini van Google worden ondersteund). Toch ontvangen we vaak nog steeds reacties in platte tekst die een JSON-object bevatten, in plaats van rechtstreeks de juiste gestructureerde JSON te ontvangen. Dit weerspiegelt hoe deze modellen nog steeds geworteld zijn in conversational design, zelfs wanneer ze worden gebruikt voor backend-processen.
Dit heeft voor ons behoorlijk wat problemen veroorzaakt, vooral als het gaat om het deserialiseren van reacties. De modellen kunnen code vrij goed begrijpen, maar genereren deze nog steeds als onbewerkte tekst. Dit betekent dat ze een komma kunnen vergeten, een accolade kunnen missen of andere kleine syntaxisfouten kunnen maken die een proces kunnen onderbreken. Het aanpakken van deze inconsistenties vergt in een vroeg stadium wat werk, maar de modellen verbeteren snel en zijn nu al veel betrouwbaarder dan een jaar geleden.”
.svg)
.svg)
.svg)
.svg)
.svg)
.svg)
