Beveiligingsteams bij NS en Sogeti zetten AI voorzichtig in

Wat doen de teams er nu mee?

Bij Sogeti werken zo'n tien mensen in de controlekamer. Klanten zijn lokale overheden, zorginstellingen en energiebedrijven. Senior analist Floris Roelofs gebruikt Microsoft Sentinel, en daarmee kan hij het maken van detectieregels versnellen.

Tegen phishing gebruikt hij Microsoft Defender. De regels die incidenten daarin opsporen, zijn gemaakt door de AI van Microsoft. Roelofs noemt dat "een black box", want Microsoft legt niet uit hoe het werkt. Het programma is wel beter geworden, zegt hij, en hij vermoedt dat AI daar de reden van is.

Bij NS werkt een team van een kleine dertig specialisten. Zij nemen het soc na een jaar weer in eigen huis. NS onderzoekt of delen van het werk vervangen kunnen worden door agentic AI, dat zijn AI-systemen die zelf stappen uitvoeren.

Waarom blijven ze zo voorzichtig?

Teamleider Arnim Eijkhoudt van NS noemt AI "tegelijkertijd een accelerator en een dreiging". Het helpt zijn team sneller te handelen. Aanvallers vinden er ook makkelijker kwetsbaarheden mee.

Roelofs zegt dat zijn klanten in aanbestedingen soms schrijven dat ze geen automatische AI-beslissingen willen. "Terecht, vind ik", zegt hij. Hij twijfelt door hallucinaties, verzonnen antwoorden van AI, of het systeem de context altijd begrijpt.

Sogeti kreeg twee jaar geleden Microsoft Security Copilot aangeboden. Dat vond het team toen te nieuw. Triage en onderzoek zijn bij Sogeti onveranderd, maar incidenten gaan sneller. Daardoor blijft tijd over om de dienst voor klanten te verbeteren.

Wat regelt NS om risico's te beperken?

Eijkhoudt ziet dat medewerkers steeds vaker eigen AI-tools meenemen naar het werk. Dat heet bring your own AI en het risico daarvan is gegroeid. NS stelde daarom een corporate AI officer aan.

Samen met de eigen data- en AI-afdeling zette NS ook een board neer. Die beoordeelt de risico's. NS wil AI gebruiken binnen de eigen veiligheidsregels en de AI-wetgeving.

Wil je weten hoe jouw organisatie ermee omgaat, kijk dan wie AI-gebruik beoordeelt en of een mens de laatste beslissing neemt. Zo werken deze teams nu. Het artikel noemt ook VodafoneZiggo en mnemonic, maar de aangeleverde tekst vertelt daar niets over.