Jeter heeft soortgelijke zorgen. Terwijl zijn team ChatGPT gebruikte om een codefix te identificeren en deze binnen 30 minuten op een website te implementeren – “Zonder ChatGPT zou het veel langer hebben geduurd” – en hij denkt dat het nuttig is voor het opstellen van algemene voorwaarden in contracten, is het niet helemaal bewezen. “We zullen geen enkele generatieve AI blootstellen aan externe leden”, zegt hij. “TruStone zal in deze ruimte niet bloeden. “
Gary Jeter, EVP en CIO, TruStone Financial Credit Union
TruStone financiële kredietunie
Wanneer TruStone de technologie uiteindelijk gaat gebruiken ten voordele van zijn leden, voegt hij eraan toe, zal het gesprekken volgen via menselijke en geautomatiseerde beoordeling om zijn leden en het merk te beschermen.
Tegenwoordig is de sleutel tot een succesvolle implementatie nog steeds een mens in de lus om gegenereerde inhoud te beoordelen op nauwkeurigheid en naleving, zegt Kellen van UCSD. “Ervoor zorgen dat de machine de juiste beslissing neemt, wordt een belangrijk procespunt”, zegt hij. “Het duurt nog een hele tijd voor organisaties [use it] voor alles met een hoog risico, zoals medische diagnoses.” Maar generatieve AI werkt prima voor het genereren van bijvoorbeeld samenvattingen van recensies, op voorwaarde dat er een mens toezicht op houdt. “Dat vertraagt ons een beetje, maar het is het juiste om te doen”, zegt hij. Uiteindelijk voegt hij eraan toe: “We zullen geautomatiseerde manieren vinden om ervoor te zorgen dat de kwaliteit goed is. Maar op dit moment moet u een beoordelingsproces hebben om ervoor te zorgen dat de gegenereerde inhoud juist is.
Een ander goed gedocumenteerd risico, naast nauwkeurigheid, is het potentieel voor vertekening in de modellen die worden geïntroduceerd op basis van de gegevens die worden gebruikt om ze te trainen. Dit is vooral problematisch wanneer generatieve AI inhoud van internet gebruikt, zoals ChatGPT doet, maar dat is misschien minder een probleem wanneer je het model traint aan de hand van je eigen privé-bedrijfsgegevens die je kunt beoordelen op mogelijke vooringenomenheid, zegt Kellen. “Hoe meer je bij de onderneming komt, waar de gegevensklasse beperkter en alledaagser is, hoe meer generatieve AI uitblinkt”, zegt hij.
Het ding om te begrijpen over grote taalmodellen, zegt Cenkl, is dat deze machines tot op zekere hoogte savants zijn. “Ze begrijpen het niet, maar ze zijn erg goed in computers”, zegt hij.
Veranderingen in functieverantwoordelijkheden, rollen
“Technologie heeft de zaken verbeterd, maar het heeft ons ook veel extra werk opgeleverd”, zegt Mohammad. Hij gelooft echter dat generatieve AI anders is. “Het is opwindend omdat het een aantal dingen wegneemt die we niet graag doen en ons intelligenter maakt”, zegt hij. “Het zal mensen vergroten.”
Maar Curran wijst erop dat er geen verwachting is dat generatieve AI op korte termijn een rol volledig zal vervangen. “Het kan het aantal mensen verminderen dat nodig is om een rol uit te voeren, zoals bij contentontwikkeling, productinformatiebeheer of softwareontwikkeling”, zegt hij. “Maar er zal altijd behoefte zijn aan een mens in de lus.” En Mohammad voegt eraan toe dat zelfs als de technologie kan schrijven en samenvatten, er altijd menselijke intelligentie nodig zal zijn om de kwaliteit te waarborgen en om te controleren wat er wordt gegenereerd om het beter te maken.
Stappen om aan de slag te gaan
Dit is het moment om kennis te maken met generatieve AI-technologie en te gaan experimenteren, zegt Kellen. “CIO’s moeten hun hoofd in deze puzzel zien te krijgen voordat ze worden misleid door leveranciers die de technologie integreren in hun bedrijfssoftwareaanbod”, zegt hij. “Als je het volgende jaar doorbrengt met uitstellen, loop je achter de feiten aan.”
Het is belangrijk om opgeleid te worden en dieper te gaan dan de publieke discussie over ChatGPT om te begrijpen dat deze technologie veel complexer is dan één applicatie, zegt Curran. Overweeg dan use cases waarin generatieve AI de efficiëntie of kwaliteit van bestaande processen zou kunnen verbeteren. Vraag ten slotte welke soorten capaciteiten u nodig heeft en of u die van een leverancier moet aanschaffen of zelf moet bouwen.
Van daaruit is het een kwestie van de technologie testen en mogelijke use cases overwegen. “Veel van uw systemen, of ze nu gestructureerde of ongestructureerde gegevens gebruiken, zullen op zijn minst een onderdeel van natuurlijke taal en conversatie-interface bevatten”, zegt Cenkl. “Denk na over de gegevens die je hebt en welke delen daarvan door deze technologieën kunnen worden aangevuld”, en demonstreer vervolgens het potentieel. Jeter zegt bijvoorbeeld dat hij een sjabloon met algemene voorwaarden heeft gegenereerd en naar zijn compliance-afdeling heeft gestuurd om te laten zien hoe ze het konden gebruiken.
Generatieve AI-modellen zijn groot en het is duur om ze vanaf nul te trainen, dus de beste manier om aan de slag te gaan, is door een van de cloudservices te gebruiken, zegt Curran. CarMax maakt bijvoorbeeld gebruik van Microsoft’s Azure OpenAI Service met GPT 3.5. “De gegevens die we laden zijn van onszelf – ze worden niet gedeeld met anderen”, zegt Mohammad. “We kunnen enorme hoeveelheden gegevens hebben en deze zeer snel verwerken om onze modellen uit te voeren. Als je een klein team of zakelijk probleem hebt dat voordeel zou kunnen halen uit generatieve AI-technologie, probeer het dan eens.”
