Concrete vragen om AI-programma's te evalueren, kiezen en gebruiken
Artificiële intelligentie (AI) kan helpen om leraren beter te laten lesgeven en evalueren, en leerlingen beter te laten leren. Maar dan moet je eerst goed nadenken over hoe je ethisch met die AI-programma’s omgaat.
7 sleutelvoorwaarden voor AI-programma's
AI op een verantwoorde manier gebruiken in je lessen: hoe doe je dat? In het 5de artikel uit onze AI-reeks maken we de 7 sleutelvoorwaarden voor betrouwbare AI in het onderwijs concreet met enkele voorbeelden. We tonen je hoe je met enkele richtvragen bepaalt of de AI-toepassing(en) die je al gebruikt of op het oog hebt aan die 7 ethische voorwaarden voldoen.
Richtvragen om te beslissen over AI-programma’s
Denk je eraan om een AI-programma aan te kopen of gebruik je zo’n programma al in je school? Dan moet je even wat afstand nemen en jezelf verschillende vragen stellen om het programma beter te begrijpen en in te schatten of en hoe je het ethisch kunt gebruiken. Welke vragen je stelt, hangt af van de technologie die je evalueert.
Is het programma transparant? Beschermt het de privacy van leerlingen en leraren? Bereik je er de doelstellingen mee die je wilt bereiken? Je kunt de vragen ook aan onderwijsprofessionals en de leveranciers van AI-programma’s voorleggen.
10 concrete voorbeelden
We geven je 10 concrete voorbeelden. Die zijn realistisch, maar geen good practices die je kunt gebruiken om AI in je school in te zetten want elke situatie is anders. De richtvragen maken je duidelijk welke AI-programma’s je met een gerust hart mag gebruiken in je school en welke echt niet oké zijn.
- Stap 1
Adaptieve leersystemen voor onderwijs op maat
Als basisschool gebruik je een adaptief leersysteem om leerlingen met AI automatisch te helpen om de maaltafels aan te leren. Voor alle leerlingen neemt het programma beslissingen die passen bij wat ze nodig hebben. De AI analyseert data zoals de oefengeschiedenis en het tempo van oplossen en kiest op basis daarvan opdrachten die afgestemd zijn op hun kennisniveau.
Zo kan het programma versneld moeilijkere of gemakkelijkere oefeningen geven. Het adaptieve leersysteem geeft leerlingen continu feedback, samen met informatie over hoever ze staan in wat ze moeten leren.
Mogelijke vragen:
- Behaal je met de processen en resultaten de doelen van de lessen?
- Hoe betrouwbaar zijn de voorspellingen en beoordelingen? Komen de adviezen overeen met de inschatting van de leraar?
- Hoe goed legt het programma zijn beslissingen uit?
- Heeft het programma genoeg mogelijkheid tot interactie voor leerlingen met een specifieke onderwijsbehoefte?
- Behandelt het programma alle leerlingen met respect en past het zich aan hun specifieke onderwijsbehoefte aan?
- Zorgt het programma dat je het te veel begint te vertrouwen of dat je er te veel afhankelijk van wordt? Leraren moeten altijd de touwtjes in handen hebben en kunnen waken over het leerproces van hun leerlingen.
- Stap 2
AI ondersteunt het plannen van lessen
Als zorgleraar die wiskundegroepen met gemengde vaardigheden begeleidt, ben je gestart met het gebruik van een AI‑planningstoepassing die gekoppeld is aan het Learning Management System (LMS) van de school. Elke week laad je leerplandoelen, leerdoelstellingen en recente observaties over de leerprestaties van leerlingen op. De AI‑assistent genereert groepsspecifieke lesopzetten met doelstellingen, inoefentaken en relevante leermiddelen. Je bekijkt deze plannen kritisch en past ze aan vóór de les.
Mogelijke vragen:
- Weet je wat je in de output van de AI‑tool moet nakijken en hoe je dit kan controleren voordat je het in je lespraktijk gebruikt?
- Heeft jouw school leraren professionele ontwikkeling aangeboden rond het gebruik van door AI ondersteunde tools in onderwijscontexten?
- Zijn de suggesties van de AI pedagogisch zinvol binnen de context van je lesvoorbereiding en sluiten ze aan bij het leerplan?
- Begrijp je waarom de AI‑tool bepaalde aanbevelingen doet of specifieke activiteiten voor leerlingen voorstelt?
- Heb je de mogelijkheid en de middelen om feedback te geven of verbeteringen voor te stellen in het gebruik van het systeem?
- Stap 3
Dashboards om leerlingen te begeleiden in hun leerproces
Als middelbare school denk je eraan om een gepersonaliseerd online dashboard voor leerlingen aan te kopen. Het geeft hun voor alle vakken feedback over hun leerprestaties en helpt hen om beter zelfstandig te leren. Via visualisaties krijgen ze inzicht in hoe ze leren. Een digitale buddy spreekt hen persoonlijk aan met tips om beter te leren.
Mogelijke vragen:
- Legt het programma duidelijk uit dat het geen emoties of gevoelens heeft en dat het alle interacties nabootst?
- Zijn de gegevens van leerlingen beschermd?
- Worden ze bewaard op een veilige plaats?
- Gebruikt het bedrijf achter het programma de gegevens alleen voor het doel waarvoor het ze verzamelt?
- Krijg je een overeenkomst met duidelijke afspraken over wie het programma ondersteunt en onderhoudt
- Heeft het bedrijf een stappenplan om de problemen die je signaleert aan te pakken?
- Stap 4
Gepersonaliseerde interventies voor leerlingen met specifieke onderwijsbehoeften
Als school bekijk je hoe AI je kan helpen om de werklast voor leerlingen met specifieke onderwijsbehoeften te verminderen. Je test een AI-programma dat op tijd kan ontdekken welke leerlingen extra ondersteuning nodig hebben. Door patronen te herkennen in de leerprestaties, de leessnelheid of de aandachtsspanne bij gestandaardiseerde toetsen geeft het aan hoe waarschijnlijk een bepaalde diagnose is en geeft het advies over mogelijke interventies.
Mogelijke vragen:
- Krijgen de leerkracht richtlijnen over hoe ze de touwtjes in handen blijven houden in situaties waarin inleving nodig is, zoals in gesprekken met leerlingen en ouders?
- Is de rol van leraren duidelijk omschreven, zodat ze toezicht hebben wanneer ze het programma gebruiken
- Welke impact heeft het programma op hun didactische rol?
- Kun je je leerlingen en hun ouders verzekeren dat het programma beveiligd is tegen cyberaanvallen en datalekken?
- Stap 5
Systemen die schrijfopdrachten beoordelen
Als school onderzoek je hoe AI je kan helpen om schrijfopdrachten van leerlingen te beoordelen. Je hebt een AI-programma gevonden dat teksten automatisch nakijkt. Het gebruikt grote natuurlijke taalmodellen om de verschillende tekstonderdelen nauwkeurig te beoordelen. Het kan plagiaat detecteren en voorbeelden van schrijfopdrachten genereren. Omdat het van zijn fouten en ervaringen leert, wordt het altijd maar beter in scores geven.
Mogelijke vragen:
- Zijn er procedures die voorkomen dat het programma op basis van zijn analyses leerlingen discrimineert of onrechtvaardig behandelt?
- Wie is verantwoordelijk voor de monitoring van de resultaten die het programma genereert?
- Wie is verantwoordelijk voor de manier waarop het programma die resultaten gebruikt om zijn beoordelingen te verbeteren, leraren beter te laten lesgeven en leerlingen beter te laten leren?
- Begrijp je hoe de algoritmes werken op basis waarvan het programma beslissingen neemt en personaliseert?
- Stap 6
Gebruik van AI voor projectwerk van leerlingen
Als school overweeg je om leerlingen AI te laten gebruiken ter ondersteuning van opdrachten en projecten. Leraren zien mogelijkheden voor het genereren van ideeën, diverse perspectieven te verkennen en het verbeteren van schrijfvaardigheid, maar maken zich zorgen over overmatig gebruik, eerlijkheid en academische integriteit.
Je onderzoekt als school hoe duidelijke verwachtingen kunnen worden vastgelegd voor een verantwoord en transparant gebruik.
Mogelijke vragen:
- Begrijpen leerlingen hoe het AI‑model werkt, inclusief de beperkingen ervan, en worden zij aangemoedigd om output te verifiëren?
- Verlang je van leerlingen dat zij aangeven hoe zij AI hebben gebruikt? Kan je voorbeelden geven van hoe zij AI-ondersteuning correct kunnen citeren of erkennen in hun werk?
- Weet je welke persoonsgegevens of leergegevens de AI‑toepassing over je leerlingen verzamelt?
- Heeft je school leraren professionele ontwikkeling aangeboden rond het gebruik van door AI ondersteunde toepassingen in onderwijscontexten?
- Stap 7
Systemen die de organisatie van je school plannen en de prestatie van leerlingen voorspellen
Als school gebruik je een AI-programma om leerlingen in te schrijven. Met die gegevens voorspel je het aantal leerlingen dat je de komende jaren mag verwachten en organiseer je je school automatisch. Je koppelt het programma aan je schoolplanning, je budgettering en de toepassing die je gebruikt om je klassen in te delen.
Zo kun je meer leerlingenkenmerken gebruiken, bijvoorbeeld om meer diversiteit of een groter genderevenwicht in je klassen te krijgen. Je denkt er ook aan om oude resultaten en andere elementen te gebruiken om voor iedere leerling doelen vast te leggen en leraren te helpen om de prestaties van hun leerlingen te voorspellen.
Mogelijke vragen:
- Wie is verantwoordelijk voor de monitoring en de controle van de resultaten die het programma genereert
- Wie is verantwoordelijk voor de controle van de manier waarop het programma die resultaten gebruikt om zijn beoordelingen te verbeteren, leraren beter te laten lesgeven en leerlingen beter te laten leren?
- Hoe evalueert het programma hoe doeltreffend het is en welke effecten het heeft? Houdt die evaluatie rekening met de kernwaarden van je onderwijs?
- Blijven de gevoelige gegevens van leerlingen anoniem?
- Krijgen alleen de mensen die de gegevens nodig hebben er toegang toe?
- Stap 8
Chatbots die leerlingen en ouders helpen bij hun administratie
Als school gebruik je een AI-chatbot op je website die leerlingen en hun ouders helpt om zich in te schrijven voor de lessen, de schoolrekeningen te betalen of technische hulp te vragen. Je gebruikt hem ook om leerlingen studieadvies te geven en hun feedback te geven over hoe ze hun zinnen opbouwen. Je chatbot helpt ook leerlingen met specifieke onderwijsbehoeften om hun opdrachten in te dienen en een studieplanning te maken.
Mogelijke vragen:
- Legt de chatbot duidelijk uit dat hij geen gevoelens of inlevingsvermogen heeft en dat hij alle interacties nabootst?
- Kun je monitoren en testen of de chatbot de doelstellingen behaalt waarvoor je hem inzet?
- Kun je problemen met de privacy en de bescherming van gegevens signaleren aan het bedrijf achter de chatbot?
- Stap 9
Ondersteuning van schoolbudgettering en middelenplanning
Als school start je met het gebruik van een AI‑toepassing ter ondersteuning van jaarlijkse budgetbeslissingen. Op basis van eerdere uitgaven‑ en inschrijvingsgegevens stelt het systeem ontwerpverdelingen voor over belangrijke domeinen zoals lesmateriaal, digitale middelen en buitenschoolse activiteiten.
Het schoolmanagementteam kan met behulp van de tool verschillende scenario’s verkennen, terwijl het de volledige controle behoudt over de uiteindelijke beslissingen.
Mogelijke vragen:
- Ben je als school nagegaan of de AI‑toepassing getest werd om te verzekeren dat ze betrouwbaar functioneert vóór ingebruikname?
- Kan je bevestigen dat alle gebruikte AI‑toepassingen voldoen aan de AVG (GDPR), de AI‑verordening (AI Act) en de nationale wetgeving inzake gegevensbescherming?
- Beschik je als school over een strategie om verantwoordelijkheden en procedures bij te werken naarmate de noden veranderen of nieuwe verantwoordelijkheidskwesties opduiken door het gebruik van de AI-toepassing?
- Heb je als school bewustwording gecreëerd rond de milieu‑ en maatschappelijke impact van digitale toepassingen, waaronder AI?
- Stap 10
Automatisering van administratieve en communicatietaken
Als school test je het gebruik van AI‑gestuurde assistenten om repetitieve, laag‑risicotaken af te handelen. Deze omvatten onder meer het opstellen van e‑mails aan ouders, het samenvatten van documenten, het vertalen van schoolbeleid naar meerdere talen en het analyseren van enquêtegegevens.
Je ziet hierin mogelijkheden om de werkdruk te verlagen en de consistentie van de communicatie te verbeteren.
Mogelijke vragen:
- Heb je geëvalueerd of de AI‑toepassingen een positieve bijdrage leveren aan het schoolklimaat, met inbegrip van communicatiepraktijken en administratieve werkstromen?
- Heb je ervoor gezorgd dat de AI‑toepassingen voldoen aan de wetgeving inzake gegevensbescherming en dat leerling‑ en leerkrachtgegevens niet verder worden verwerkt dan noodzakelijk?
- Heb je vanuit de school duidelijke verwachtingen vastgelegd over hoe, wanneer en door wie administratieve AI‑toepassingen mogen worden gebruikt?
- Heb je op school een duidelijke taakverdeling vastgelegd voor leraren, leerlingen en andere betrokkenen rond het gebruik van AI‑toepassingen?
Beslis samen met je hele schoolteam
Op basis van de antwoorden op die vragen moet je nagaan of het echt verantwoord is om dat programma te gebruiken. Sommige antwoorden kunnen een teken zijn om met het programma te stoppen of om het niet aan te kopen. Andere problemen die de antwoorden signaleren, kun je misschien makkelijk oplossen of vermijden.
De uiteindelijke beslissing om het programma aan te kopen of te blijven gebruiken? Neem die niet alleen. Bespreek alles met je schoolteam en beslis samen of dat programma wel de juiste keuze is.
Dit is het vijfde artikel in een reeks over het gebruik van AI in het onderwijs.
Andere onderwerpen:
- AI in het onderwijs: ethische richtlijnen
- AI in het onderwijs: een meerwaarde of niet?
- 7 sleutelvoorwaarden voor betrouwbare AI
- Enkele misverstanden over AI in het onderwijs
Schrijf je in op onze nieuwsbrief. Zo weet je wanneer de volgende artikels online verschijnen.
Kunnen we je helpen?
Foutje gezien? Een link die niet werkt? Laat het ons weten!
Krijg je graag ergens meer informatie over? We bekijken je vraag en zien wat we kunnen doen.
Schrijf je in op onze nieuwsbrief
Blijf je graag op de hoogte van de laatste nieuwtjes? Schrijf je dan nu in voor onze maandelijkse nieuwsbrief.