Sinds 2 februari 2025 geldt in de hele EU een aantal regels van de AI-Verordening. Het gaat vooral om verboden toepassingen, zoals het inzetten van AI om emoties te herkennen op de werkplek of in het onderwijs (tenzij voor veiligheid of om medische redenen).
Zo is predictive policing, voorspellend beleid (zoals het risico op criminaliteit) is niet toegestaan. Denk hierbij aan de film Minority Report. En ook social scoring, met AI-systemen rechten afnemen op basis van niet gerelateerd sociaal gedrag of persoonlijke kenmerken, valt onder de verboden.
Andere verboden gaan onder meer over het ongericht scrapen van internet of camera’s van gezichten om een database aan te leggen, mensen in een categorie stoppen op basis van hun biometrische data om bijzondere persoonsgegevens als ras of politieke opvattingen af te leiden, het verstoren van het gedrag van personen of een groep door hun kwetsbaarheden te gebruiken en het gebruik van dark patterns (subliminale technieken, verstoppen van boodschappen) waardoor mensen een besluit nemen dat zij anders niet hadden genomen. Belangrijk is dat het erom moet gaan dat mensen hierdoor ook schade lijden.
Daarnaast moeten werkgevers die AI gebruiken of verkopen of verhuren ervoor zorgen dat hun personeel en andere gebruikers voldoende kennis van AI hebben.
De regels van de AI-verordening gaan gefaseerd in. De volgende set wordt op 2 augustus 2025 van kracht en de laatste set op 2 augustus 2027.
