Veel onderwijsinstellingen zetten digitale middelen in waarbij algoritmes keuzes maken, zoals leersystemen die oefeningen automatisch aanpassen op het gedrag van de leerling. De inzet van deze middelen kent voordelen, maar ook risico’s op discriminatie en kansenongelijkheid. Dit blijkt uit een verkennend onderzoek van het College voor de Rechten van de Mens dat op 13 mei verscheen.

Kansen en risico’s

Het onderzoek laat zien dat digitale systemen op grote schaal worden toegepast in het onderwijs in Nederland. Bijvoorbeeld  door extra ondersteuning te bieden voor leerlingen die dat nodig hebben of door het analyseren van data. Zo krijgen docenten meer inzicht in het leerproces en kunnen ze aanpassingen doen die goed aansluiten bij de behoefte van elke leerling.

Helaas spelen vooroordelen over groepen leerlingen, bijvoorbeeld met een migratieachtergrond of met praktische opgeleide ouders,  ook een rol in het onderwijs. Als digitale systemen niet goed getest worden op groepen leerlingen met verschillende leerstijlen of met het inschatten van het niveau van leerlingen, kunnen zij de vooroordelen van mensen versterken door deze te systematiseren en te verspreiden. Dit kan leiden tot discriminatie en kansenongelijkheid. 

Advies aan scholen: voor gebruik, waarden afwegen en het systeem testen

Voordat onderwijsinstellingen digitale systemen gaan gebruiken, moeten zij een waardenafweging maken of en wanneer technologie een bijdrage levert aan goed onderwijs. 
Scholen hebben veel vrijheid in het kiezen van leermiddelen, maar zij kunnen en moeten ook (gezamenlijk) eisen stellen aan softwareleveranciers op het gebied van gelijke behandeling, privacy, autonomie en transparantie. 

Oproep aan OCW: ondersteun scholen met een landelijke aanpak

De invloed van grote technologiebedrijven is groot en de informatie over de werking van algoritmen is beperkt. Het is belangrijk dat leveranciers transparant zijn hierover. Daarom roept het College voor de Rechten van de Mens het ministerie van OCW op om:

• onderzoek te doen naar de effecten van digitale systemen en te investeren in bewustwording en kennisdeling over de risico's aan schoolbesturen, leraren, ouders en leerlingen.
• een normenkader te ontwikkelen (samen met kennisinstituten, sectororganisaties en onderwijsinstellingen) dat duidelijkheid schept waar een systeem in ieder geval aan moet voldoen om discriminatie te voorkomen. Vergelijkbaar met het normenkader op het gebied van privacy en informatiebeveiliging. 
• kaders op te stellen voor leveranciers voor het ontwikkelen en testen op verschillende groepen leerlingen van digitale middelen. 
• scholen te stimuleren elkaar te helpen door zich te verenigen in SIVON en samen deskundigheid op te bouwen en criteria te stellen aan softwareleveranciers.   

Wat doet de PO-Raad en VO-raad?

Vanuit de PO-Raad en VO-raad werken we aan meer bewustwording en professionalisering van schoolbesturen rondom adaptieve leermiddelen en het gebruik van AI in het onderwijs. 

Denk hierbij aan:

• De Themacommissie digitalisering komt deze zomer met een advies over AI in het onderwijs. Hierin trekken we samen op met Kennisnet. Dit advies bespreken we met de aanwezigen leden op de  ALV van 6 juni 2024. Na de ALV lichten we het advies van de themacommissie toe middels een artikel. 
• We ontwikkelen leertrajecten, masterclasses en (digitale) workshops rondom het thema digitalisering met specifieke aandacht voor AI. Bekijk het aanbod op de site van de PO-Academie. 

Aan de slag

• Neem deel met je schoolbestuur aan het leertraject Regie op digitalisering (najaar 2024)
• Neem met je schoolteam deel aan de gratis online workshop Bloom
• Masterclass de kun(stmatige intelligentie) van het onderwijs op 13 juni 
• Kennisnet organiseert in juni meerdere fysieke workshops tijdens de maand van de AI. 
• Het Ethiekkompas van Kennisnet helpt je in de waardenafweging bij de inzet van een nieuw digitaal leermiddel. 
• Heb jij vraagstukken binnen jouw school of bestuur die gaan over kunstmatige intelligentie? Dan kun je met jouw vraagstuk terecht bij het National Onderwijslab AI (NOLAI).