In slechts een paar jaar tijd is generatieve AI (GenAI) uitgegroeid van een experimentele technologie tot een transformerende kracht die de manier waarop bedrijven werken opnieuw vormgeeft. Of het nu gaat om klantbetrokkenheid, optimalisatie van de toeleveringsketen, productontwerp of naleving van regelgeving, GenAI ontsluit nieuwe niveaus van snelheid, efficiëntie en creativiteit. 

Maar zoals bij elke krachtige innovatie, gaat het gebruik ervan gepaard met compromissen. Organisaties moeten navigeren door een groeiend landschap van risico's, variërend van verkeerde informatie en datalekken tot ethische en juridische valkuilen. In dit artikel onderzoeken we de dubbele aard van GenAI: het vermogen om productiviteit en strategische groei te stimuleren aan de ene kant, en de uitdagingen van hallucinatie, cyberbeveiliging en governance aan de andere kant.

Dit artikel is geschreven door Lorena Velo ([email protected]) en Cem Adiyaman ([email protected]). Cem en Lorena maken deel uit van RSM Netherlands Business Consulting Services, specifiek gericht op Internationale Handel en Strategie.  

Wat is generatieve AI (GenAI)?

Generatieve AI (GenAI) verwijst naar kunstmatige-intelligentiesystemen die in staat zijn om nieuwe inhoud te creëren, zoals tekst, afbeeldingen, code of audio, door patronen te leren uit enorme datasets. In tegenstelling tot voorspellende AI, die beslissingen neemt op basis van historische gegevens, kan GenAI menselijke creativiteit simuleren en taken in meerdere domeinen automatiseren. GenAI is gebouwd op grote taalmodellen (LLM's) en basismodellen en wordt een krachtig hulpmiddel voor bedrijven die willen innoveren, activiteiten willen stroomlijnen en gepersonaliseerde klantervaringen willen bieden. Het vermogen om te werken met minimale gegevensinvoer via API's of prompts maakt het zeer toegankelijk. Toch brengt deze krachtige technologie uitdagingen met zich mee die aandacht vragen.

De huidige staat van generatieve AI

GenAI is snel overgegaan van een onderzoeksfocus naar een centrale pijler van digitale transformatie in alle sectoren. Het technologielandschap wordt gekenmerkt door een paar dominante spelers, voornamelijk in de VS gevestigde techreuzen die een groot deel van de infrastructuur, modelontwikkeling en applicatielagen beheersen en meer dan 80% van de wereldwijde financiering in de waardeketen voor hun rekening nemen. Terwijl de VS vooroploopt op het gebied van particuliere investeringen en inzet, levert de EU gerichte inspanningen om de kloof te dichten door middel van initiatieven zoals het AI Factories-programma van 2,1 miljard euro, hoewel dit nog steeds achterblijft bij het Stargate-project van 500 miljard dollar van de VS.1  

De sterke punten van Europa zijn vooral zichtbaar in specifieke sectoren. In de automobielsector heeft het continent een sterke erfenis en herbergt het gerenommeerde bedrijven, met aanzienlijke investeringen in startups van autonome voertuigen: $ 969 miljoen in 2023 en meer dan $ 1.1 miljard in 2024. Bedrijven als Wayve (VK), Aptiv (Frankrijk), Forvia (Ierland) en Einride (Zweden) maken gebruik van GenAI voor simulatie en besluitvorming, terwijl partnerschappen zoals Umicore (België) met Microsoft de batterijtechnologie bevorderen met behulp van GenAI.2 Op het gebied van schone energie hebben de ambitieuze klimaatdoelstellingen van de EU en de Green Deal geleid tot een vermindering van de opwekking van fossiele brandstoffen met 19% in 2023, waarbij kampioenen als Iberdrola GenAI Centres of Excellence hebben opgericht om de energieproductie te optimaliseren. Het onderwijs profiteert van grensoverschrijdende samenwerking en onderzoeksfinanciering via initiatieven zoals Horizon Europe, waarbij EdTech-innovators zoals Lingvist (Estland), Lepaya (Nederland) en Domoscio (Frankrijk) gepersonaliseerd leren transformeren via GenAI.  

Ondanks deze vooruitgang blijven er uitdagingen bestaan. Veelvoorkomende blokkades in alle sectoren zijn onder meer problemen met gegevensprivacy en toestemming, integratieproblemen met AI-systemen, een tekort aan geschoold personeel en weerstand tegen verandering van professionals die op hun hoede zijn voor het verdwijnen van banen of sceptisch staan tegenover nieuwe technologieën.

Kansen voor bedrijven

De grootste voordelen van generatieve AI worden duidelijk wanneer organisaties het toepassen op kernfuncties van het bedrijf in plaats van geïsoleerde experimenten. Door GenAI te integreren in fundamentele workflows, ontsluiten bedrijven echte productiviteitswinsten. Het transformeert handmatige, tijdrovende taken in snelle, datagestuurde processen op het gebied van softwareontwikkeling, klantenservice, het creëren van marketingcontent en R&D. Intern zorgt GenAI voor een revolutie in kennisbeheersystemen en helpt het werknemers inzichten te verkrijgen door middel van natuurlijke taalquery's die menselijke dialogen nabootsen. Dit versnelt niet alleen de besluitvorming, maar stimuleert ook de strategische afstemming.

Voor klantactiviteiten leveren GenAI-aangedreven chatbots onmiddellijke en gepersonaliseerde klantreacties in meerdere talen. Ze helpen het aantal door mensen afgehandelde serviceverzoeken tot 50% te verminderen, afhankelijk van de bestaande automatiseringsniveaus. Ze kunnen ook problemen tijdens het eerste contact oplossen door relevante klantgegevens op te halen en de responstijden voor menselijke agenten te verkorten. Bovendien ondersteunt GenAI kwaliteitsborging door klantinteracties te analyseren en de prestaties van agenten te begeleiden.

GenAI versnelt ook het bedenken en opstellen van inhoud, bevordert de merkconsistentie en verbetert de personalisatie in verschillende regio's en demografieën. Marketingteams kunnen het gebruiken voor het vertalen van berichten, het afstemmen van campagnes en het analyseren van klantgedrag om de strategie te verfijnen. Het helpt ook bij het optimaliseren van SEO-inhoud, productontdekking en zoekpersonalisatie, waardoor de conversieratio's van e-commerce worden verhoogd.

Op het gebied van onderzoek en ontwikkeling introduceert GenAI een efficiëntie van 10-15% van de totale kosten. Industrieën zoals farmaceutica en chemicaliën gebruiken het voor generatief ontwerp, het creëren van nieuwe moleculen en het versnellen van de ontdekking van medicijnen. Deze zelfde principes kunnen worden uitgebreid naar fysieke producten en elektronica. GenAI verbetert ook het testen van producten, optimaliseert het materiaalgebruik en verkort de testfasen, waardoor de time-to-market uiteindelijk wordt verkort en de ontwerpkwaliteit wordt verbeterd.

Risico's en uitdagingen voor bedrijven

Hoewel GenAI veelbelovend is, brengt de implementatie ervan even grote risico's met zich mee, waarvan vele voortkomen uit de onderliggende architectuur en trainingsmethoden van grote taalmodellen (LLM's).

Een van de meest urgente zorgen met GenAI is de neiging om hallucinaties-zelfverzekerd klinkende, maar feitelijk onjuiste of verzonnen inhoud te produceren. Deze fouten kunnen ernstige gevolgen hebben, vooral in gereguleerde industrieën. Een bekend voorbeeld is Mata v. Avianca, waar een advocaat valse juridische precedenten aanhaalde die door ChatGPT waren gegenereerd, resulterend in gerechtelijke sancties en reputatieschade. Deze modellen "begrijpen" de inhoud niet; In plaats daarvan voorspellen ze het volgende woord of de volgende zin op basis van aangeleerde patronen, waardoor plausibiliteit - niet waarheid - het doel wordt. Zelfs wanneer ze zijn getraind op nauwkeurige gegevens, kunnen LLM's informatie op onverwachte manieren opnieuw combineren, waardoor misleidende resultaten worden gegenereerd die het vertrouwen kunnen aantasten en onwaarheden kunnen verspreiden.

Vanuit technisch oogpunt brengen GenAI-systemen ook cyberbeveiligingsrisico's met zich mee, vooral wanneer ze worden geïntegreerd in gebruikersgerichte applicaties. Input - vooral van openbare of vijandige gebruikers - kan worden misbruikt om output te manipuleren. Deze "vijandige prompts" kunnen onbedoeld gedrag veroorzaken, zoals het genereren van aanstootgevende inhoud, het lekken van vertrouwelijke informatie of het aanzetten tot onwettige activiteiten. Aangezien GenAI-modellen real-time gebruikersinvoer kunnen gebruiken voor continu leren, bestaat het risico dat gevoelige gegevens - namen, financiële gegevens of eigen bedrijfsstrategieën - onbedoeld opnieuw verschijnen in uitvoer die zichtbaar is voor andere gebruikers.

Bedrijven die GenAI gebruiken, moeten ook rekening houden met het risico van gegevenslekken via zowel invoer- als uitvoerkanalen. Als bijvoorbeeld interne productroadmaps of juridische memo's worden ingevoerd in een GenAI-platform dat geen strikt gegevensscheidingsbeleid heeft, kunnen deze worden hergebruikt in uitvoer naar niet-gerelateerde gebruikers. Bovendien, wanneer GenAI-output wordt ingevoerd in downstream-systemen, zoals voorraadplatforms, CRM-tools of marketingengines, bestaat er het extra gevaar van onbedoelde gevolgen die worden veroorzaakt door gebrekkige of bevooroordeelde inhoud.

EU-regelgeving, met name de AVG en de aankomende AI-wet, legt strenge eisen op aan het verzamelen, gebruiken en grensoverschrijdend doorgeven van persoonsgegevens, een essentiële input voor veel GenAI-modellen. Deze beperkingen bemoeilijken modeltraining, vooral wanneer u vertrouwt op diverse gegevenssets die gevoelige informatie kunnen bevatten. 3

Ethisch gezien betekent GenAI's afhankelijkheid van grootschalige gegevensschraping dat het vooroordelen kan erven en versterken die zijn ingebed in trainingsdatasets. Dit roept bezorgdheid op over discriminatie, inbreuk op het auteursrecht en cultureel ongevoelige output. Op juridisch vlak stellen de AI-wet en de AVG van de EU strenge eisen aan gegevensgebruik, modeltransparantie en verklaarbaarheid, gebieden waar GenAI-modellen vaak tekortschieten. Het niet naleven kan leiden tot forse boetes en operationele verstoringen.

Ten slotte is er het menselijke element. In alle sectoren kunnen werknemers zich verzetten tegen de acceptatie van GenAI vanwege de angst voor verdringing van banen of scepsis over de betrouwbaarheid van AI. Zonder de juiste training en verandermanagement kunnen deze culturele barrières de impact van GenAI beperken en wrijving tussen teams veroorzaken. Een gebrek aan geschoold personeel belemmert de vooruitgang verder. De vraag naar AI-ingenieurs, datawetenschappers en compliance-professionals is groter dan het aanbod, waardoor de implementatie wordt vertraagd en het toezicht wordt verzwakt. Dit tekort aan talent wordt nog verergerd door weerstand tegen verandering binnen organisaties, vooral van professionals die zich zorgen maken over het verdwijnen van banen of de betrouwbaarheid van AI-outputs.

Technische integratie is een andere uitdaging. Veel ondernemingen werken op legacy-systemen die dure upgrades vereisen om de acceptatie van AI te ondersteunen. Zonder naadloze integratie hebben bedrijven moeite om GenAI-oplossingen effectief te schalen of beveiliging en interoperabiliteit te garanderen.

Wettelijke verplichtingen worden steeds concreter. Vanaf 2 augustus 2025 moeten AI-systemen voor algemeen gebruik in de EU voldoen aan nieuwe governancenormen. AI-toepassingen met een hoog risico, zoals die in de financiële sector, de gezondheidszorg en de infrastructuur, zullen tegen 2027 te maken krijgen met aanvullende verplichtingen, waaronder verplichte risicobeoordelingen en transparantievereisten. Als reactie hierop breiden cloudproviders "soevereine cloud"-diensten uit om naleving van de Europese wetgeving inzake gegevenssoevereiniteit te garanderen. 4 Hoewel deze tegenwind op het gebied van regelgeving voor complexiteit zorgt, benadrukken EU-beleidsmakers dat AI-governance uiteindelijk het marktvertrouwen zal versterken en innovatie van eigen bodem zal stimuleren. De digitale strategie van de Europese Commissie benadrukt een tweeledig doel van "uitmuntendheid en vertrouwen", gericht op het versterken van de industriële capaciteit en het waarborgen van de grondrechten.5 Daarom moeten EU-bedrijven een "compliance-by-design"-benadering van GenAI hanteren, waarbij privacy, beveiliging en transparantie vanaf het begin van het project worden verankerd.

Forward Thinking

Vooruitkijkend zal de weg naar een verantwoorde acceptatie van GenAI voortdurende investeringen in talent en training, nauwere samenwerking tussen de industrie en regelgevers en de ontwikkeling van flexibele governancekaders vereisen die met de technologie kunnen evolueren. Ethische innovatie moet de kern van deze reis vormen, waarbij bedrijven prioriteit geven aan eerlijkheid, inclusiviteit en maatschappelijke impact in hun AI-strategieën. Voor sectoren als de auto-industrie en schone energie zijn regelmatige updates van de regelgeving essentieel om innovatie niet te verstikken en tegelijkertijd het vertrouwen van het publiek te behouden. In het onderwijs zal een voortdurende dialoog met belanghebbenden van cruciaal belang zijn om innovatie in evenwicht te brengen met ethische overwegingen. Uiteindelijk zullen de organisaties die slagen de organisaties zijn die zowel de kansen als de verantwoordelijkheden van GenAI omarmen en ervoor zorgen dat technologische vooruitgang gepaard gaat met robuuste waarborgen en een toewijding aan transparantie en verantwoording67

Het effectief beheren van de risico's die gepaard gaan met generatieve AI vereist een mix van technische controles, ethisch toezicht en menselijke tussenkomst. In tegenstelling tot mensen beschikken GenAI-systemen niet over redeneren of zelfbewustzijn - ze functioneren puur door statistische patroonherkenning. Daarom is het essentieel dat het menselijk oordeel een centrale rol speelt bij het verifiëren van door AI gegenereerde output. Een eerste en fundamenteel principe is het aannemen van een "human-in-the-loop"-benadering. Dit houdt in dat ervoor moet worden gezorgd dat door AI gegenereerde output, vooral in kritieke domeinen zoals financiën, gezondheidszorg of juridische analyse, altijd wordt beoordeeld door gekwalificeerd personeel voordat op basis daarvan beslissingen worden genomen. Deze aanpak is ook ingebed in de komende EU-AI-wet, die de nadruk legt op menselijk toezicht op toepassingen met een hoog risico. Informatiegevoeligheid is een andere belangrijke overweging. Bedrijven moeten vermijden vertrouwelijke of gevoelige gegevens in GenAI-platforms in te voeren, met name platforms die gebruikersgegevens gebruiken om hun modellen te trainen. Wanneer gegevensinvoer onvermijdelijk is, is het belangrijk om leveranciers te kiezen die expliciet garanderen dat invoer niet zal worden opgeslagen of hergebruikt. Het is ook cruciaal om functionaliteit en risico in evenwicht te brengen. Hoe strakker deze bedieningselementen worden, hoe meer ze de flexibiliteit en gebruikerservaring kunnen beperken. Organisaties moeten het juiste beperkingsniveau bepalen op basis van de gevoeligheid en risicotolerantie van de specifieke use case.

RSM is een thought leader op het gebied van Strategy en International Trade consulting. We bieden frequente inzichten door middel van training en het delen van thought leadership op basis van een gedetailleerde kennis van ontwikkelingen in de branche en praktische toepassingen in de samenwerking met onze klanten. Wilt u meer weten, neem dan contact op met een van onze consultants.