Nieuws

Meer kennis over AI in het onderwijs nodig, anders risico op discriminatie

Veel onderwijsinstellingen zetten digitale middelen in waarbij algoritmes keuzes maken, zoals leersystemen die oefeningen automatisch aanpassen op het gedrag van de leerling. De inzet van deze middelen kent voordelen, maar ook risico’s op discriminatie en kansenongelijkheid. Dit blijkt uit een verkennend onderzoek van het College voor de Rechten van de Mens dat op 13 mei verscheen.

Het onderzoek

De onderzoeksinstituten KBA Nijmegen en ResearchNed hebben in opdracht van het College onderzoek gedaan naar hoe algoritmes in het onderwijs in Nederland worden ingezet. Uit de MYRA monitor 2023 blijkt dat ongeveer 40 procent van de basisscholen adaptieve leersystemen gebruikt, waarbij het systeem oefeningen, bijvoorbeeld bij taal en rekenen, automatisch aanpast op basis van het gedrag van de leerling.

Kansen en risico’s

Het onderzoek laat zien dat digitale systemen op grote schaal worden toegepast in het onderwijs in Nederland. Bijvoorbeeld  door extra ondersteuning te bieden voor leerlingen die dat nodig hebben of door het analyseren van data. Zo krijgen docenten meer inzicht in het leerproces en kunnen ze aanpassingen doen die goed aansluiten bij de behoefte van elke leerling.

Helaas spelen vooroordelen over groepen leerlingen, bijvoorbeeld met een migratieachtergrond of met praktische opgeleide ouders,  ook een rol in het onderwijs. Als digitale systemen niet goed getest worden op groepen leerlingen met verschillende leerstijlen of met het inschatten van het niveau van leerlingen, kunnen zij de vooroordelen van mensen versterken door deze te systematiseren en te verspreiden. Dit kan leiden tot discriminatie en kansenongelijkheid. 

Advies aan scholen: voor gebruik, waarden afwegen en het systeem testen

Voordat onderwijsinstellingen digitale systemen gaan gebruiken, moeten zij een waardenafweging maken of en wanneer technologie een bijdrage levert aan goed onderwijs. 
Scholen hebben veel vrijheid in het kiezen van leermiddelen, maar zij kunnen en moeten ook (gezamenlijk) eisen stellen aan softwareleveranciers op het gebied van gelijke behandeling, privacy, autonomie en transparantie. 

Oproep aan OCW: ondersteun scholen met een landelijke aanpak

De invloed van grote technologiebedrijven is groot en de informatie over de werking van algoritmen is beperkt. Het is belangrijk dat leveranciers transparant zijn hierover. Daarom roept het College voor de Rechten van de Mens het ministerie van OCW op om:

  • onderzoek te doen naar de effecten van digitale systemen en te investeren in bewustwording en kennisdeling over de risico's aan schoolbesturen, leraren, ouders en leerlingen.
  • een normenkader te ontwikkelen (samen met kennisinstituten, sectororganisaties en onderwijsinstellingen) dat duidelijkheid schept waar een systeem in ieder geval aan moet voldoen om discriminatie te voorkomen. Vergelijkbaar met het normenkader op het gebied van privacy en informatiebeveiliging. 
  • kaders op te stellen voor leveranciers voor het ontwikkelen en testen op verschillende groepen leerlingen van digitale middelen. 
  • scholen te stimuleren elkaar te helpen door zich te verenigen in SIVON en samen deskundigheid op te bouwen en criteria te stellen aan softwareleveranciers.   

Wat doet de PO-Raad en VO-raad?

Vanuit de PO-Raad en VO-raad werken we aan meer bewustwording en professionalisering van schoolbesturen rondom adaptieve leermiddelen en het gebruik van AI in het onderwijs. 

Denk hierbij aan:

  • De Themacommissie digitalisering komt deze zomer met een advies over AI in het onderwijs. Hierin trekken we samen op met Kennisnet. Dit advies bespreken we met de aanwezigen leden op de  ALV van 6 juni 2024. Na de ALV lichten we het advies van de themacommissie toe middels een artikel. 
  • We ontwikkelen leertrajecten, masterclasses en (digitale) workshops rondom het thema digitalisering met specifieke aandacht voor AI. Bekijk het aanbod op de site van de PO-Academie

Aan de slag

Leerling achter computer

Onze professionals staan voor je klaar

Stel je vraag of zoek een opleiding

Contact met de Juridische Helpdesk

Heb je een juridisch vraag? Als lid van de PO-Raad kun je via de pagina van de Juridische helpdesk je vraag stellen op Mijn PO-Raad (na het inloggen in het ledenportaal).

Voor dringende vragen bel met 030 - 31 00 933. We zijn bereikbaar op werkdagen tussen 09.00 – 12.00 uur.

Helpdesk 2 mensen praten