Sinds 2 februari 2025 zijn bepaalde AI-toepassingen binnen de Europese Unie verboden. De EU AI Act classificeert deze als AI-systemen met een onaanvaardbaar risico. Maar welke systemen zijn precies verboden, waarom, en wat moet u doen als u er een gebruikt? In dit artikel geven we een compleet overzicht van alle verboden AI-praktijken.
Waarom verbiedt de EU bepaalde AI-systemen?
De EU AI Act is gebouwd op het principe dat AI-systemen veilig moeten zijn en grondrechten moeten respecteren. Sommige toepassingen van AI vormen echter een zodanig fundamentele bedreiging voor mensenrechten, democratie en de rechtsstaat dat geen enkele waarborg ze acceptabel kan maken. Deze systemen zijn daarom niet gereguleerd maar ronduit verboden.
Het verbod geldt sinds 2 februari 2025 — dit was de eerste verplichting die onder de AI Act van kracht werd. Overtredingen worden bestraft met de hoogste boetecategorie: tot 35 miljoen euro of 7 procent van de wereldwijde jaaromzet.
De verboden AI-praktijken in detail
Hieronder vindt u een volledig overzicht van de AI-systemen die onder de EU AI Act niet zijn toegestaan.
Sociale kredietsystemen
AI-systemen die worden gebruikt om personen een score toe te kennen op basis van hun sociale gedrag of persoonlijke kenmerken zijn verboden. Denk aan een systeem dat uw gedrag op sociale media, betalingsgeschiedenis, sociale contacten en andere persoonlijke gegevens combineert tot een score die bepaalt welke rechten of diensten u krijgt. Dit soort systemen ondermijnt fundamentele vrijheden en leidt tot een surveillancemaatschappij.
Ook voor bedrijven geldt een verbod op het scoren en classificeren van personen op basis van sociaal gedrag of persoonlijkheidskenmerken wanneer dit leidt tot nadelige behandeling die niet in verhouding staat tot het oorspronkelijke gedrag, of wanneer de beoordeling plaatsvindt in een andere context dan waarin de gegevens zijn verzameld.
Realtime biometrische identificatie in openbare ruimtes
Het gebruik van AI voor realtime biometrische identificatie op afstand in publiek toegankelijke ruimtes is verboden. Concreet gaat het om systemen die gezichtsherkenning inzetten om personen in realtime te identificeren op straten, in winkelcentra, op stations of andere openbare plekken.
Er bestaan beperkte uitzonderingen voor rechtshandhaving, maar deze zijn aan strenge voorwaarden gebonden. Rechtshandhavingsinstanties mogen realtime biometrische identificatie alleen inzetten voor het gericht zoeken naar slachtoffers van ontvoering of mensenhandel, het voorkomen van een specifieke en actuele terroristische dreiging, en het opsporen van verdachten van ernstige strafbare feiten. Zelfs in deze gevallen is voorafgaande rechterlijke toestemming vereist.
Emotieherkenning op de werkplek en in het onderwijs
AI-systemen die emoties van personen proberen te herkennen in de context van werk of onderwijs zijn verboden. Dit betekent dat u als werkgever geen AI mag inzetten die de emotionele toestand van uw medewerkers analyseert, bijvoorbeeld om productiviteit te monitoren of om te bepalen of iemand de waarheid spreekt tijdens een sollicitatiegesprek.
Hetzelfde geldt in het onderwijs: scholen en universiteiten mogen geen AI gebruiken die de emoties van leerlingen of studenten probeert te lezen. Er bestaan uitzonderingen voor medische en veiligheidsdoeleinden, zoals het detecteren van vermoeidheid bij een bestuurder of het monitoren van pijnniveaus bij patienten.
Manipulatieve en misleidende AI
AI-systemen die subliminale technieken, manipulatieve methoden of misleidende praktijken gebruiken om het gedrag van personen te beinvloeden zijn verboden. Het gaat om technieken die het bewustzijn van de persoon omzeilen en die aanzienlijke schade kunnen veroorzaken.
Specifiek verboden is AI die kwetsbare groepen exploiteert. Dit betreft systemen die misbruik maken van de kwetsbaarheid van personen vanwege hun leeftijd, handicap of specifieke sociale of economische situatie. Denk aan AI die ouderen of kinderen manipuleert tot aankopen of beslissingen die tegen hun belang ingaan.
Voorspellend politiewerk op basis van profilering
AI-systemen die uitsluitend op basis van profilering of het beoordelen van persoonlijkheidskenmerken het risico voorspellen dat een individu een strafbaar feit pleegt, zijn verboden. Dit verbod geldt wanneer de voorspelling enkel is gebaseerd op demografische kenmerken, uiterlijk, woonplaats of sociaaleconomische achtergrond — zonder dat er concrete aanwijzingen zijn voor betrokkenheid bij een specifiek strafbaar feit.
Het onderscheid is belangrijk: AI die helpt bij het analyseren van bewijs in een lopend onderzoek is niet verboden. Het gaat specifiek om systemen die mensen als potentiele criminelen bestempelen zonder concreet bewijs.
Ongerichte scraping van gezichtsafbeeldingen
Het ongericht verzamelen van gezichtsafbeeldingen van het internet of uit camerabeelden voor het opbouwen van gezichtsherkenningsdatabases is verboden. Dit is een directe reactie op diensten die op grote schaal foto's van sociale media en andere online bronnen verzamelden om gezichtsherkenningsdatabases te bouwen.
Biometrische categorisatie op gevoelige kenmerken
AI-systemen die personen categoriseren op basis van hun biometrische gegevens om conclusies te trekken over ras, politieke opvattingen, vakbondslidmaatschap, religieuze overtuigingen, seksleven of seksuele geaardheid zijn verboden. Het gaat om systemen die op basis van fysieke kenmerken proberen af te leiden tot welke groep iemand behoort.
Wat moet u doen als u verboden AI gebruikt?
Als u na het lezen van dit overzicht vaststelt dat uw organisatie een verboden AI-systeem gebruikt, moet u onmiddellijk actie ondernemen. Het verbod is immers al van kracht sinds februari 2025.
Stop direct met het gebruik van het betreffende systeem. Documenteer welk systeem het betreft en sinds wanneer het in gebruik was. Informeer uw leverancier dat u het gebruik beeindigt vanwege het AI Act-verbod. Controleer of er data is verzameld die onder het verbod valt en neem passende maatregelen. Leg alles vast in uw AI-register als bewijs van uw proactieve aanpak.
Praktische voorbeelden
Om het concreter te maken, hier enkele situaties uit de dagelijkse praktijk. Een retailbedrijf dat camera's met emotieherkenning inzet om het winkelgedrag van klanten te analyseren — dit systeem kan onder het verbod op biometrische categorisatie vallen afhankelijk van de exacte werking. Een HR-afdeling die AI-software gebruikt die op basis van gezichtsanalyse de persoonlijkheid van sollicitanten beoordeelt, maakt zich schuldig aan verboden biometrische categorisatie en mogelijk aan verboden emotieherkenning op de werkplek. Een marketingbedrijf dat AI inzet om specifiek ouderen of kinderen te manipuleren tot aankoopbeslissingen, overtreedt het verbod op manipulatieve AI.
Twijfelt u of uw AI-gebruik onder een van de verboden categorieen valt? De AI Risicoscanner van AIComplianceHub helpt u om dit snel vast te stellen. In vijf minuten krijgt u een helder beeld van de risicocategorie van elk AI-systeem dat u gebruikt. Mocht een systeem in de verboden categorie vallen, dan weet u direct welke stappen u moet nemen.