Verboden AI: Wat Mag Niet onder de AI Act
De AI Act verbiedt bepaalde AI-toepassingen volledig. Dit zijn systemen die zo risicovol zijn voor fundamentele rechten dat ze niet mogen bestaan in de EU.
Wat is verboden onder de AI Act?
Artikel 5 van de AI Act bevat een exhaustieve lijst van AI-praktijken die volledig verboden zijn in de EU.
Beslisregel
Als je een AI-systeem ontwikkelt of gebruikt dat valt onder een van de categorieën in Artikel 5, dan is dit verboden en mag je het niet ontwikkelen, op de markt brengen, in gebruik nemen of gebruiken in de EU.
De 8 Verboden Categorieën
1. Manipulatieve AI (Art. 5.1.a)
AI-systemen die subliminale technieken gebruiken om gedrag te beïnvloeden op een manier die schade veroorzaakt.
Praktijkvoorbeeld: Een app die onbewuste auditieve signalen gebruikt om gebruikers te stimuleren impulsaankopen te doen, zonder dat zij dit merken. Dit exploiteert cognitieve kwetsbaarheden en is verboden.
2. Exploitatieve AI (Art. 5.1.b)
AI die kwetsbaarheden exploiteert van specifieke groepen (leeftijd, handicap, sociaal-economische situatie).
Praktijkvoorbeeld: Een AI-systeem dat speciaal is ontworpen om ouderen met beginnende dementie te overtuigen onnodige financiële producten te kopen. Dit exploiteert cognitieve kwetsbaarheid.
3. Social Scoring (Art. 5.1.c)
AI voor sociale scoring door overheden - het beoordelen van burgers op basis van gedrag met nadelige gevolgen.
Praktijkvoorbeeld: Een gemeente die een AI-systeem wil gebruiken om burgers een "betrouwbaarheidsscore" te geven op basis van hun gedrag, en deze score te gebruiken voor toegang tot diensten. Dit is verboden social scoring.
4. Predictive Policing (Art. 5.1.d)
AI voor individuele risicobeoordeling voor crimineel gedrag puur op basis van profilering.
Belangrijk: Dit verbod geldt voor systemen die voorspellen dat iemand een misdrijf ZAL plegen, puur op basis van eigenschappen. Systemen die ondersteunen bij lopende onderzoeken zijn niet per se verboden.
5. Gezichtsherkenning uit Internet/CCTV (Art. 5.1.e)
Het scrapen van gezichtsafbeeldingen van internet of CCTV om databases voor gezichtsherkenning op te bouwen.
Praktijkvoorbeeld: Een bedrijf dat social media afbeeldingen scrapt om een gezichtsherkenningsdatabase te bouwen (zoals Clearview AI deed) is verboden in de EU.
6. Emotieherkenning op Werk/School (Art. 5.1.f)
AI voor emotieherkenning op de werkplek en in onderwijsinstellingen.
| Context | Verboden? |
|---|---|
| Werkplek monitoring | ✅ Ja |
| Sollicitatiegesprekken | ✅ Ja |
| Klaslokaal monitoring | ✅ Ja |
| Medische/veiligheidsredenen | ❌ Nee (uitzondering) |
7. Biometrische Categorisatie (Art. 5.1.g)
AI die personen categoriseert op basis van biometrische data naar ras, politieke overtuiging, vakbondslidmaatschap, religie, seksleven of seksuele oriëntatie.
8. Real-time Biometrische Identificatie (Art. 5.1.h)
Real-time gezichtsherkenning in openbare ruimtes door rechtshandhaving, behalve in zeer specifieke uitzonderingen.
Uitzonderingen voor Rechtshandhaving
Alleen voor real-time biometrische identificatie bestaan beperkte uitzonderingen:
- Zoeken naar slachtoffers van ontvoering/mensenhandel
- Voorkomen van directe terroristische dreiging
- Opsporing van verdachten van zeer ernstige misdrijven
Voorwaarden:
- Voorafgaande rechterlijke toestemming
- Strikt noodzakelijk en proportioneel
- Beperkt in tijd en plaats
Checklist: Is Mijn AI Verboden?
- Beïnvloedt het systeem gedrag via onbewuste technieken?
- Exploiteert het kwetsbaarheden van specifieke groepen?
- Kent het scores toe aan burgers door overheden?
- Voorspelt het individueel crimineel gedrag op basis van profilering?
- Scrapt het gezichtsafbeeldingen voor databases?
- Analyseert het emoties op werkplekken of in onderwijs?
- Categoriseert het mensen op verboden biometrische gronden?
- Is het real-time gezichtsherkenning in openbare ruimtes?
Als je een van deze vragen met "ja" beantwoordt, dan is je systeem waarschijnlijk verboden.
Bronnen
Changelog:
- 12 januari 2026 - Eerste publicatie
Veelgestelde vragen
Gerelateerde onderwerpen
Gerelateerde artikelen
AI Act Risico-categorieën: Van Verboden tot Minimaal
De AI Act werkt met een risico-gebaseerde aanpak. Hoe hoger het risico, hoe strenger de regels. Hier leer je de vier categorieën kennen en hoe je je AI-systeem classificeert.
AI Act voor Rechtshandhaving & Justitie
Politie, OM en rechtbanken hebben strenge beperkingen voor AI-gebruik. Real-time biometrische identificatie is grotendeels verboden. Predictive policing en risicobeoordeling zijn hoog-risico.