Verboden AI: Wat Mag Niet onder de AI Act

Wat is verboden onder de AI Act?

Artikel 5 van de AI Act bevat een exhaustieve lijst van AI-praktijken die volledig verboden zijn in de EU.

Beslisregel

Als je een AI-systeem ontwikkelt of gebruikt dat valt onder een van de categorieën in Artikel 5, dan is dit verboden en mag je het niet ontwikkelen, op de markt brengen, in gebruik nemen of gebruiken in de EU.

De 8 Verboden Categorieën

1. Manipulatieve AI (Art. 5.1.a)

AI-systemen die subliminale technieken gebruiken om gedrag te beïnvloeden op een manier die schade veroorzaakt.

Praktijkvoorbeeld: Een app die onbewuste auditieve signalen gebruikt om gebruikers te stimuleren impulsaankopen te doen, zonder dat zij dit merken. Dit exploiteert cognitieve kwetsbaarheden en is verboden.

2. Exploitatieve AI (Art. 5.1.b)

AI die kwetsbaarheden exploiteert van specifieke groepen (leeftijd, handicap, sociaal-economische situatie).

Praktijkvoorbeeld: Een AI-systeem dat speciaal is ontworpen om ouderen met beginnende dementie te overtuigen onnodige financiële producten te kopen. Dit exploiteert cognitieve kwetsbaarheid.

3. Social Scoring (Art. 5.1.c)

AI voor sociale scoring door overheden - het beoordelen van burgers op basis van gedrag met nadelige gevolgen.

Praktijkvoorbeeld: Een gemeente die een AI-systeem wil gebruiken om burgers een "betrouwbaarheidsscore" te geven op basis van hun gedrag, en deze score te gebruiken voor toegang tot diensten. Dit is verboden social scoring.

4. Predictive Policing (Art. 5.1.d)

AI voor individuele risicobeoordeling voor crimineel gedrag puur op basis van profilering.

Belangrijk: Dit verbod geldt voor systemen die voorspellen dat iemand een misdrijf ZAL plegen, puur op basis van eigenschappen. Systemen die ondersteunen bij lopende onderzoeken zijn niet per se verboden.

5. Gezichtsherkenning uit Internet/CCTV (Art. 5.1.e)

Het scrapen van gezichtsafbeeldingen van internet of CCTV om databases voor gezichtsherkenning op te bouwen.

Praktijkvoorbeeld: Een bedrijf dat social media afbeeldingen scrapt om een gezichtsherkenningsdatabase te bouwen (zoals Clearview AI deed) is verboden in de EU.

6. Emotieherkenning op Werk/School (Art. 5.1.f)

AI voor emotieherkenning op de werkplek en in onderwijsinstellingen.

7. Biometrische Categorisatie (Art. 5.1.g)

AI die personen categoriseert op basis van biometrische data naar ras, politieke overtuiging, vakbondslidmaatschap, religie, seksleven of seksuele oriëntatie.

8. Real-time Biometrische Identificatie (Art. 5.1.h)

Real-time gezichtsherkenning in openbare ruimtes door rechtshandhaving, behalve in zeer specifieke uitzonderingen.

Uitzonderingen voor Rechtshandhaving

Alleen voor real-time biometrische identificatie bestaan beperkte uitzonderingen:

• Zoeken naar slachtoffers van ontvoering/mensenhandel
• Voorkomen van directe terroristische dreiging
• Opsporing van verdachten van zeer ernstige misdrijven

Voorwaarden:

• Voorafgaande rechterlijke toestemming
• Strikt noodzakelijk en proportioneel
• Beperkt in tijd en plaats

Checklist: Is Mijn AI Verboden?

• Beïnvloedt het systeem gedrag via onbewuste technieken?
• Exploiteert het kwetsbaarheden van specifieke groepen?
• Kent het scores toe aan burgers door overheden?
• Voorspelt het individueel crimineel gedrag op basis van profilering?
• Scrapt het gezichtsafbeeldingen voor databases?
• Analyseert het emoties op werkplekken of in onderwijs?
• Categoriseert het mensen op verboden biometrische gronden?
• Is het real-time gezichtsherkenning in openbare ruimtes?

Als je een van deze vragen met "ja" beantwoordt, dan is je systeem waarschijnlijk verboden.

Bronnen

• AI Act Artikel 5 - Verboden praktijken
• AI Act Recitals 29-45 - Toelichting verboden

Changelog:

• 12 januari 2026 - Eerste publicatie