Jurist waarschuwt: zorg vergeet patiënt door AI-enthousiasme

Waarom werkt AI anders in een echt ziekenhuis?

AI-tools worden getest in een kunstmatige omgeving, legt Van Kolfschooten uit aan NRC. In een chaotisch ziekenhuis ligt dat anders. „Dan weten we niet precies hoe ze werken en of ze ook echt winst opleveren”, zegt ze.

Ook de gebruiker telt mee. De techniek is even goed als de mens die ermee werkt, zegt de jurist. Sommige artsen hebben geen zin om de hele dag met een iPad rond te lopen, begrijpen het systeem nauwelijks of vergeten het apparaat op te laden.

Daarom wijst ze op een zaak uit 2019 in het Verenigd Koninkrijk. Door een stroomstoring stopte de zuurstofmachine van een patiënt met een longziekte, en bleef de elektrische poort van de ambulancepost dicht. De tweede ambulance kwam pas na vijftig minuten, de man overleed. Haar les: de zorg moet ook zonder techniek kunnen doorgaan.

Welke patiënten helpt AI minder goed?

Vrouwen, ouderen en mensen met een niet-westerse achtergrond komen minder vaak voor in klinische studies. Dat zijn onderzoeken waarin nieuwe behandelingen worden getest. Daardoor ontbreken zij vaker in de gegevens waarmee AI leert, en kan AI hen minder goed helpen.

Een tweede voorbeeld is de telefoon. Een AI-assistent helpt iemand die geen perfect, accentloos Nederlands spreekt vaak slechter. Dat geldt bij een zorgvraag en bij het plannen van een afspraak.

Toch is Van Kolfschooten niet tegen AI. Het werkt goed bij concrete problemen waar mensen de leiding houden. „Met AI kun je veel sneller MRI-scans maken”, zegt ze, zodat patiënten minder lang in de machine liggen. Ook hartfilmpjes kan AI snel uitlezen.

Wat moeten artsen nu met AI-regels?

Het ministerie van Volksgezondheid ziet „passende AI” als middel om de zorg toegankelijk te houden en de werkdruk te verlagen. Artsenfederatie KNMG noemt in haar AI-richtlijn hulp bij administratie en versnelling van onderzoek. Bij bijna elk voordeel staat de zin dat AI veilig en verantwoord moet worden gebruikt.

Hoe dat moet, staat er volgens Van Kolfschooten vaak niet bij. Soms staat dat AI-systemen patiëntgegevens kunnen gebruiken om zichzelf verder te trainen en dat artsen dat kunnen uitzetten. „Maar er staat niet altijd bij dát je dat moet doen. Of hóé.”

Nu moeten individuele artsen dat zelf uitzoeken. Dat noemt ze oneerlijk, en patiënten moeten de risico’s evenmin zelf afwegen. Ben je zelf patiënt, dan kun je je arts vragen of en hoe AI bij jouw zorg wordt gebruikt.