AI mag in Europa mensen niet categoriseren of discrimineren
Europa wil met de nieuwe regelgeving innovatie in artificiële intelligentie stimuleren en tegelijkertijd burgers en het milieu beschermen. AI-toepassingen voor de Europese markt zullen 'veilig, transparant, traceerbaar, niet-discriminerend en milieuvriendelijk' moeten zijn.
Systemen die een bedreiging voor mensen vormen, zijn onaanvaardbaar en worden verboden. Het gaat dan bijvoorbeeld over:
- Gedragsmanipulatie
- Sociale scoring en classificatie van mensen op basis van gedrag, sociaal-economische status of persoonlijke kenmerken zoals religie
- Real-time biometrische identificatie, zoals automatische gezichtsherkenning
Andere AI-toepassingen worden ingedeeld in verschillende risicoklassen, waarbij toepassingen met de hoogste risico's moeten voldoen aan de strengste regels. Het gaat dan bijvoorbeeld over onderwijs, arbeidsrelaties en wetshandhaving.
Ook generatieve AI, die we kennen van toepassingen als ChatGPT, zal aan regels moeten voldoen:
- Vermelden dat inhoud is gegenereerd door AI
- Voorkomen dat illegale inhoud wordt gegenereerd
- Bekend maken welke auteursrechtelijk beschermde gegevens werden gebruikt bij de training van het systeem
Gebruikers moeten bovendien geïnformeerd worden wanneer ze met AI in aanraking komen. 'Deepfakes' en automatische chatbots zullen dus een vermelding moeten krijgen.
Het politieke akkoord tussen de Europese instellingen moet nu nog vertaald worden in uitgewerkte wetteksten. Dat zal vanaf januari één van de taken zijn van het Belgische voorzitterschap van de Raad van Ministers. Daarna moet de wettekst nog goedgekeurd worden door het Europees Parlement en de Raad. De wet wordt verwacht tegen 2026.
Bron: European Parliament News (Engels)