De Autoriteit Persoonsgegevens richt een nieuwe afdeling op voor AI-toezicht

Wat gaat de nieuwe directie doen?

De nieuwe directie heet TCA en bestaat uit twee afdelingen. De eerste is ARC, die kijkt naar de gevolgen van AI en algoritmes voor mensen en grondrechten. Ze let vooral op systemen met veel impact, zoals instrumenten die risico's inschatten. Die moeten worden getoetst op discriminatie en op juistheid.

De tweede afdeling is MTA, die het toekomstige markttoezicht voorbereidt. Ze bouwt kennis op om AI-systemen te kunnen onderzoeken en testen. Ook geeft ze al voorlichting en steunt ze verantwoorde innovatie.

De twee afdelingen versterken elkaar, zegt de AP. Wat ARC in de samenleving ziet, helpt straks om het toezicht te richten. De kennis van MTA helpt om voorbereid te zijn op nieuwe ontwikkelingen.

Waarom nu al, zonder volle bevoegdheden?

De AP is bedoeld als markttoezichthouder op AI, maar nog niet aangewezen. Bevoegdheden krijgt ze pas als de Nederlandse Uitvoeringswet AI-verordening van kracht is. Het kabinet wil de AP samen met de RDI een centrale rol geven.

Bestuurslid Katja Mur gebruikt een beeld uit het verkeer. "De 'verkeersregels' voor AI worden steeds concreter en het verkeer wordt iedere dag drukker en sneller." Daarom kan de AP volgens haar niet wachten tot het laatste verkeersbord staat.

De AP wijst ook op recente incidenten met AI-agents. Dat zijn AI-systemen die zelfstandig taken uitvoeren. Sommige kregen zonder toestemming toegang tot private en publieke online omgevingen. Volgens de AP laat dat zien dat vroeg toezicht nodig is.

Wat betekent dit voor jou?

Sommige regels gelden al. Bepaalde AI-toepassingen zijn verboden. Voor AI-gemaakte video's, afbeeldingen en teksten gelden transparantieregels. Vanaf 2 december komt er een verbod op AI die mensen zonder toestemming virtueel uitkleedt.

Werk je bij een organisatie die AI bouwt of gebruikt, dan is de AI sandbox interessant. Dat is een gecontroleerde omgeving waarin je samen met de toezichthouders werkt aan een AI-systeem. Zo breng je het in lijn met de AI-verordening voordat het op de markt komt. De AP en de RDI zetten die omgeving samen op.

De AP is er niet alleen om in te grijpen als het misgaat. Ze wil organisaties ook duidelijk maken wat wél kan. Heb je vragen over de regels, dan kun je dus nu al bij de AP terecht voor voorlichting.