Wat zegt de AI-act over de risico’s?

De verordening verdeelt AI-systemen in verschillende risicocategorieën en legt per categorie verschillende voorwaarden op aan de ontwikkelaars, de aanbieders en de gebruikers van de systemen. De impact die de voorwaarden op het onderwijs hebben, vind je terug in het artikel ‘Wat mag (niet) met AI op school?’ van Klasse.

De AI-act zegt niets over de minimumleeftijd

Je hoort vaak dat de Europese AI-act kinderen jonger dan 13 verbiedt om AI te gebruiken. Dat klopt niet. Maar dat wil natuurlijk niet zeggen dat de leeftijd van kinderen niet belangrijk is. Naast de AI-act bestaat er nog andere wetgeving, die natuurlijk ook van toepassing is wanneer je AI-toepassingen gebruikt. Het gaan dan bijvoorbeeld om de digital service act en de AVG (Algemene Verordening Gegevensbescherming, ook bekend als GDPR).

De AI-verordening verplicht wel alle aanbieders en verantwoordelijken van gebruikers – ook schoolbesturen dus – om maatregelen te nemen die zorgen dat hun personeel AI-geletterd is. 

Dat betekent voor je school: als je je team de mogelijkheid geeft om met AI te werken, dan moet je zorgen dat ze de risico’s van en de ethische bedenkingen bij AI genoeg kennen en begrijpen. Dat kan je natuurlijk doortrekken: als dat voor je personeel geldt, is het dan niet logisch dat je dat ook van je leerlingen verwacht als ze met AI mogen werken? 

Zijn er dan geen leeftijdsbeperkingen om AI te gebruiken? Toch wel, die bestaan. Ze komen alleen niet uit de AI‑verordening zelf. Andere wetgeving speelt daarin een belangrijke rol, vooral de regels rond gegevensverwerking. AI‑systemen hebben namelijk data nodig om te werken. Daarom is het cruciaal dat je je als school bewust bent van de leerlinggegevens die generatieve AI‑tools verwerken.

De rol van de privacywetgeving (AVG/GDPR)

De AVG beschermt persoonsgegevens en legt wel leeftijdsgrenzen vast. Zo is de verwerking van persoonsgegevens van kinderen jonger dan 16 jaar bij online diensten alleen toegestaan als een ouder daarvoor toestemming of machtiging tot toestemming geeft. Lidstaten mogen die leeftijd verlagen. België koos voor een lagere grens van 13 jaar.

Die uitzonderlijke regeling in de AVG, zorgt soms voor verwarring en doet het lijken alsof er specifieke leeftijdsbeperkingen voor AI bestaan, terwijl het in werkelijkheid om privacyregels gaat.

Let op de gebruikersvoorwaarden van AI-tools

Naast de privacywetgeving gelden ook de gebruikersvoorwaarden van AI‑toepassingen. Sommige platformen bepalen daarin dat gebruikers minstens 13 of 18 jaar moeten zijn. Als zo’n leeftijdsgrens expliciet in de voorwaarden staat, kan een school die niet omzeilen met ouderlijke toestemming. Contractueel is het gebruik van het platform dan niet toegestaan.

De meeste generatieve AI-tools zijn ontwikkeld voor volwassenen. Daardoor houden ze geen of weinig rekening met mogelijke risico’s voor kinderen en jongeren. Denk bijvoorbeeld aan het risico dat ze lopen om gewelddadige inhoud tegen te komen, of inhoud die hen manipuleert. Daarom raadt Unesco aan om leeftijdsbeperkingen op te leggen aan leerlingen die generatieve AI gebruiken. Hun richtlijn: volg de AVG. 

Kinderen groeien nu al op in een wereld die aangestuurd wordt door AI. Het heeft geen zin om te doen alsof de technologie niet bestaat. Daarom is het belangrijk dat je ze mediawijs en AI-geletterd genoeg maakt voor je ze met generatieve AI laat werken. De manier waarop je dat doet, kan je het best in je ICT- en schoolbeleid inpassen en stem je dus ook af met je schoolteam. Tips en advies over hoe je dat het best in je school kan aanpakken, vind je in de AI-handreiking van het Nederlandse Kennisnet.

Het blijft belangrijk dat je je aan de bestaande wetgeving houdt, ook al is die niet echt duidelijk over vanaf welke leeftijd je je leerlingen met generatieve AI mag laten werken. Daarom werkt Kenniscentrum Digisprong eraan om de AI-verordening duidelijker te maken. Tot het zover is, kan je beter zo veel mogelijk uit de grijze zones blijven. Zo kan je zonder zorgen met AI aan de slag in je klas.