ChatGPT en Claude inzetten tijdens een crisis: wat mag wel, wat niet

Waar een algemene chatassistent tijdens een crisis goed in is

Een crisis brengt altijd een schrijf- en denkpiek met zich mee: er moeten in korte tijd overzichten komen, situaties worden samengevat en vragen worden beantwoord. Precies daar kan een algemene AI-chatassistent een crisisteam versterken. Praktijkstukken over het gebruik van ChatGPT in Nederlandse crisisteams laten zien dat de tool goed werkt om snel een overzicht te maken van betrokken partijen en hun rollen, om een lange stroom aan updates samen te vatten tot een leesbare situatieschets, en om routinevragen af te vangen die anders tijd van het kernteam opslokken. Dat scheelt tijd op precies het moment dat tijd schaars is.

Het is daarbij belangrijk om te zien wat een algemene chatassistent wél en niet is. Het is een generiek hulpmiddel dat goed is in taal: samenvatten, structureren, herformuleren. Het is geen crisisexpert en het kent uw organisatie, uw scenario's of uw actuele situatie niet, tenzij u die informatie er zelf en per keer instopt. Elk antwoord is dus een startpunt, geen eindproduct.

Waarom u het nooit voor het definitieve bericht gebruikt

Het belangrijkste onderscheid dat een crisisteam moet maken, is het verschil tussen een concept en een gepubliceerd bericht. AI is sterk in het snel produceren van een eerste versie: een conceptbericht, een eerste opzet voor een overzicht, een ruwe samenvatting. Diezelfde snelheid is een risico zodra een concept ongecontroleerd de deur uitgaat. Een chatassistent kan feiten door elkaar halen, een detail te stellig formuleren of een toon raken die niet past bij de ernst van de situatie. Daarom geldt onder alle omstandigheden: een AI-concept wordt gecontroleerd en goedgekeurd door een mens voordat het naar buiten gaat. Hoe groter de tijdsdruk, hoe belangrijker die stap, niet hoe eerder die wordt overgeslagen.

Naast ChatGPT en Claude bestaan er ook AI-tools die specifiek voor crisiscommunicatie zijn gebouwd, in plaats van generieke chatassistenten die breed inzetbaar zijn. Zulke gespecialiseerde tools horen bij een breder landschap naast algemene chatassistenten: welke vorm het beste past, hangt af van de organisatie en de situatie. Ook daar blijft hetzelfde uitgangspunt gelden: een concept is een concept, en een mens beoordeelt wat er daadwerkelijk gepubliceerd wordt.

De grens die nooit overschreden wordt: gevoelige data in een publieke chatassistent

Wie de praktijkstukken over ChatGPT-gebruik in crisisteams leest, ziet steeds dezelfde nuchtere toon: het werkt goed voor overzichten en concepten, mits een mens de uitkomst controleert. Onze redactionele aanvulling daarop is net zo belangrijk: voer nooit organisatie-eigen of gevoelige data in bij een publieke chatassistent zonder dat daar een verwerkersovereenkomst voor is afgesloten. Dat geldt voor namen van betrokkenen of getroffenen, interne dossiers, vertrouwelijke rapportages en elk ander gegeven dat de organisatie niet zomaar buiten de deur wil hebben. Een publieke chatassistent is niet automatisch een veilige verwerker van dat soort gegevens, en onder de tijdsdruk van een crisis is de verleiding om "het er even in te plakken" juist het grootst.

Dit is niet alleen een kwestie van voorzichtigheid, maar ook van wettelijke verplichting. Een DPIA en de AVG stellen eisen aan de verwerking van persoonsgegevens, en de EU AI Act stelt aanvullende eisen aan het gebruik van AI-systemen, zeker in een context met maatschappelijke impact zoals crisisbeheersing. Deze verplichtingen verdwijnen niet omdat er haast is. Sterker nog: juist omdat een crisis haast met zich meebrengt, is het verstandig om deze grens vooraf helder te hebben, zodat niemand in het heetst van de strijd hoeft te improviseren met gevoelige gegevens.

Vier praktische stappen voor verantwoord gebruik

De risico's hierboven zijn geen reden om AI-chatassistenten te mijden, wel een reden om vooraf een paar zaken vast te leggen. De volgende stappen helpen een crisisteam om ChatGPT, Claude of vergelijkbare tools verantwoord in te zetten.

1. 1
   Gebruik AI voor concepten en overzichten, nooit voor het definitieve bericht. Laat de chatassistent situaties samenvatten, overzichten opstellen en routinevragen beantwoorden, maar laat elk bericht dat naar buiten gaat altijd eerst door een mens controleren en goedkeuren.
2. 2
   Voer nooit namen, dossiers of vertrouwelijke gegevens van getroffenen in bij een publieke chatassistent. Zonder verwerkersovereenkomst hoort die informatie daar niet, hoe hoog de tijdsdruk ook oploopt. Houd hierbij rekening met de DPIA- en AVG-verplichtingen en met wat de EU AI Act van de organisatie vraagt.
3. 3
   Leg vooraf vast welke AI-tool uw organisatie mag gebruiken en onder welke voorwaarden. Bepaal dit buiten crisistijd, samen met de juiste juridische en privacy-collega's, zodat het crisisteam tijdens een incident niet zelf hoeft te bedenken wat wel en niet mag.
4. 4
   Overweeg een AI-koppeling die uw eigen crisisdata en -context kent. Een kale chatassistent zonder achtergrondkennis van uw organisatie levert een generiek concept op. Een AI-tool die uw eigen crisiscontext meeneemt, levert bruikbaardere en beter passende concepten op.

• Frankwatching: Crisiscommunicatie: ChatGPT versterkt het team
• Compaijen: ChatGPT omarmt de uitgangspunten van goede crisiscommunicatie