Home / Artikelen / AI-hallucinaties
AI-hallucinaties in crisiscommunicatie: het governance-risico dat niemand mag negeren
Een AI-hallucinatie is geen storing die u even wegklikt. Voor gemeenten, veiligheidsregio's en andere publieke organisaties is het een bestuurlijk risico: een AI-systeem dat onder tijdsdruk een overtuigend klinkend maar onjuist antwoord geeft, kan het vertrouwen van burgers direct raken. Dit artikel legt uit wat een hallucinatie is, waarom crisiscommunicatie er extra kwetsbaar voor is, wie verantwoordelijk is als het misgaat en welke waarborgen dat risico beheersbaar maken.
Wat een AI-hallucinatie is (en waarom dat anders is dan een gewone fout)
Een hallucinatie is output van een AI-systeem die feitelijk onjuist of verzonnen is, maar wel wordt gepresenteerd met dezelfde overtuigende toon als een correct antwoord. Het systeem "liegt" niet bewust: het genereert taal op basis van waarschijnlijkheid, niet op basis van geverifieerde kennis. Het resultaat kan een niet-bestaande bron zijn, een verkeerd getal, een verzonnen citaat of een detail dat plausibel klinkt maar simpelweg niet klopt.
Dat maakt een hallucinatie fundamenteel anders dan een gewone fout. Een crashende applicatie of een foutmelding is zichtbaar: iedereen ziet meteen dat er iets misgaat. Een hallucinatie is onzichtbaar totdat iemand het feit controleert. Voor bestuurders en communicatieteams is dat precies het probleem: het gaat niet om een "leuk technisch mankement" dat de IT-afdeling oplost, maar om een governance-vraagstuk. Teams moeten elk AI-gegenereerd antwoord kunnen verantwoorden en verdedigen, en een verkeerd statistiekje of een verzonnen feit kan het publieke vertrouwen ondermijnen, zeker onder de tijdsdruk van een crisis.
Waarom dit specifiek in een crisis extra gevaarlijk is
Buiten crisistijd is er meestal ruimte om een AI-antwoord rustig te checken voordat het de deur uitgaat. Tijdens een crisis ontbreekt die ruimte vaak. Er is tijdsdruk: burgers, media en bestuurders willen direct duidelijkheid, en een communicatieteam dat AI inzet om sneller te concepten, voelt de verleiding om een antwoord snel te publiceren zonder het grondig te controleren.
Daarnaast is de zichtbaarheid tijdens een crisis veel groter dan normaal. Een bericht dat anders door weinig mensen wordt gelezen, wordt tijdens een crisis gedeeld, becommentarieerd en nagekeken door media, toezichthouders en betrokken burgers. Een verzonnen cijfer over slachtoffers, een onjuiste locatie of een fout genoemde instantie valt dan sneller op, en verspreidt zich ook sneller.
Ten slotte is er weinig ruimte voor herstel. In gewone omstandigheden kunt u een fout rustig rectificeren. Tijdens een crisis raakt elke correctie direct aan de geloofwaardigheid van de organisatie, precies op het moment dat vertrouwen het hardst nodig is. Die combinatie van tijdsdruk, zichtbaarheid en beperkte herstelruimte maakt een AI-hallucinatie in crisiscommunicatie een risico van een andere orde dan in alledaags gebruik.
Het onderliggende governance-vraagstuk: wie is verantwoordelijk voor een AI-fout die naar buiten gaat
Hier raakt het hallucinatievraagstuk aan een grotere kwestie: verantwoordelijkheid. Een AI-systeem publiceert niets uit zichzelf, maar wie is aanspreekbaar wanneer een verzonnen feit tóch naar buiten is gegaan? Niet de leverancier van het taalmodel, en ook niet "de techniek": de verantwoordelijkheid ligt bij de organisatie die het bericht publiceert en bij de mens die het heeft goedgekeurd. Dat klinkt vanzelfsprekend, maar in de praktijk van een druk crisisteam is die verantwoordelijkheid gemakkelijk te vervagen, juist omdat een AI-concept er zo afgewerkt en zelfverzekerd uitziet.
Praktijkstukken over het gebruik van ChatGPT in Nederlandse crisisteams benadrukken vooral dat het werkt voor concepten en overzichten, mits een mens de uitkomst controleert (het "garbage in, garbage out"-principe). Onze redactionele aanvulling daarop, die in het verlengde ligt van het hallucinatierisico: voer nooit organisatie-eigen of gevoelige data in een AI-tool in, want die gegevens kunnen elders belanden of worden gebruikt op een manier die de organisatie niet controleert. Besteed daarnaast structureel aandacht aan een DPIA en de AVG, en aan wat de EU AI Act betekent voor het gebruik van AI in een omgeving met hoge maatschappelijke impact, zoals crisisbeheersing. Die twee punten zijn geen aparte juridische bijzaak, maar horen bij dezelfde vraag: wie is verantwoordelijk, en kan die verantwoordelijkheid worden aangetoond als het misgaat?
Praktische waarborgen
Het goede nieuws is dat het risico van AI-hallucinaties in crisiscommunicatie beheersbaar is, mits u een aantal waarborgen structureel inbouwt.
Human in the loop. Dit is de belangrijkste praktische tegenmaatregel. AI genereert een concept, maar een mens controleert de feiten en keurt het bericht goed voordat het naar buiten gaat. Geen enkele AI-output verlaat de organisatie zonder die menselijke stap, hoe groot de tijdsdruk ook is.
Bronnen controleren en citeren in plaats van laten verzinnen. Laat een AI-systeem zoveel mogelijk verwijzen naar of citeren uit geverifieerde bronnen, zoals eigen crisisinformatie of officiële cijfers, in plaats van vrij te laten formuleren. Hoe minder ruimte er is om te "gokken", hoe kleiner de kans op een hallucinatie.
Een vast reviewmoment vóór publicatie. Maak van de feitencheck geen losse gewoonte, maar een vast, niet-overslaanbaar onderdeel van het proces, ook als de klok tikt. Dat sluit aan bij hoe goede crisiscommunicatie al werkt: gestructureerd, met een vast besluitmoment, niet ad hoc.
Transparant zijn als het toch misgaat. Is er onverhoopt tóch een onjuist AI-gegenereerd feit gepubliceerd, erken dat dan snel en duidelijk, corrigeer het bericht en leg uit wat er is gebeurd. Die openheid is precies het uitgangspunt van goede crisiscommunicatie, en dat verandert niet doordat AI bij het opstellen betrokken was.
Zelf nooit zonder controle publiceren
CrisisMaatje is bewust zo gebouwd dat het nooit zelf publiceert: het levert een concept, u beslist en controleert.