Europese Commissie Publiceert Eerste Verboden AI-Richtlijnen: Zorgverleners Krijgen Duidelijkheid over Onaanvaardbare Praktijken

De Europese Commissie heeft vandaag de eerste officiële richtlijnen gepubliceerd voor artikel 5 van de EU AI Act, waarin wordt gedefinieerd welke AI-praktijken als onaanvaardbaar worden beschouwd en daarom volledig verboden zijn. Het 140 pagina's tellende document biedt cruciale duidelijkheid voor de gezondheidszorg, waar veel van de voorbeelden betrekking hebben op emotieherkenning en manipulatieve AI-systemen.

Verboden AI-Praktijken in de Zorg Gedefinieerd

Het conceptdocument, dat reeds goedgekeurd is maar nog niet formeel aangenomen, bevat uitgebreide voorbeelden van AI-toepassingen die in de gezondheidszorg niet zijn toegestaan:

Emotieherkenning bij Kwetsbare Groepen

• Verboden: AI-systemen die emoties herkennen bij patiënten met dementie, kinderen of mensen met psychische aandoeningen
• Uitzondering: Medische doeleinden en veiligheidstoepassingen blijven toegestaan onder strikte voorwaarden

Manipulatieve AI-Systemen

• AI die gedrag beïnvloedt door misbruik te maken van kwetsbaarheden
• Systemen die patiënten misleiden over hun medische toestand
• AI die ongepaste behandelingen suggereert voor commerciële doeleinden

Boetes tot €35 Miljoen voor Overtredingen

Organisaties die de verboden AI-praktijken implementeren, riskeren aanzienlijke financiële sancties:

• Maximumboete: €35 miljoen of 7% van de wereldwijde jaaromzet
• Criterium: Het hoogste van beide bedragen is van toepassing
• Handhaving: Nationale toezichthouders krijgen uitgebreide bevoegdheden

Impact op Nederlandse Zorgverleners

Voor Nederlandse ziekenhuizen, zorgverzekeraars en andere zorgaanbieders hebben deze richtlijnen directe gevolgen:

Compliance-Vereisten

• Inventarisatie van huidige AI-systemen op verboden functionaliteiten
• Aanpassing van AI-toepassingen die mogelijk onder de verboden vallen
• Training van personeel over nieuwe compliance-eisen

Praktische Voorbeelden

Het document geeft concrete scenario's die relevant zijn voor de Nederlandse zorg:

• Chatbots die patiënten manipuleren naar duurdere behandelingen
• Emotieherkenning in wachtkamers zonder medische noodzaak
• AI-systemen die kwetsbare ouderen misleiden over hun zorgbehoeften

Implementatietijdlijn en Volgende Stappen

De richtlijnen bevinden zich momenteel in de conceptfase:

• Nu: Conceptrichtlijnen beschikbaar voor consultatie
• Q2 2026: Verwachte formele aanname
• Augustus 2026: Volledige handhaving van artikel 5 van kracht

Aanbevelingen voor Zorgorganisaties

Gezien de hoge boetes en strikte handhaving adviseren experts zorgverleners om:

1. Onmiddellijk een AI-audit uit te voeren
2. Juridische expertise in te schakelen voor compliance-beoordeling
3. Interne procedures aan te passen aan de nieuwe richtlijnen
4. Personeel te trainen over verboden AI-praktijken

De publicatie van deze richtlijnen markeert een cruciaal moment in de implementatie van de EU AI Act, waarbij zorgverleners nu concrete handvatten krijgen om compliance te waarborgen en aanzienlijke boetes te vermijden.