ChatGPT en leerlinggegevens: wat mag wel en niet op school
Een naam weghalen is niet genoeg. Met het stoplicht zie je in drie seconden wat wel, alleen geanonimiseerd of nooit in een AI-assistent hoort, en welk account de school daarvoor nodig heeft.
- Gegevens over kinderen zijn extra kwetsbaar. In een kleine school is een leerling vaak al herkenbaar aan groep, leeftijd en één bijzonderheid.
- Toetsresultaten, zorgsignalen, gezinssituatie en medische informatie horen nooit in een gratis of privé-chatbot.
- Werk alleen met een schoolaccount waarover afspraken zijn gemaakt, en zet [leerling] in plaats van een naam.
Waarom leerlinggegevens extra voorzichtigheid vragen
De AVG beschermt iedereen, maar kinderen extra. Voor een school betekent dat: wat je over een leerling weet, deel je alleen als het nodig is en met wie het mag. Een gratis of privé-account van een chatbot hoort daar niet bij. Wat je daar invoert, kan worden opgeslagen en soms gebruikt om het model te trainen, en de school heeft er geen afspraken over gemaakt.
Het stoplicht
- Groen: algemene vragen en lesstof zonder leerlingen erin. "Maak vijf oefenzinnen met de d/t-regel voor groep 6." "Leg fotosynthese uit op het niveau van groep 7."
- Oranje: werk dat over leerlingen gaat, maar goed geanonimiseerd en in een schoolaccount. Een conceptopmerking voor een rapport op basis van observaties met [leerling] erin, zonder groep, gezinssituatie of herkenbare bijzonderheden.
- Rood: nooit. Namen met toetsresultaten, zorgsignalen, vermoedens van huiselijk geweld, medische of diagnostische informatie, gegevens uit het leerlingvolgsysteem, en wachtwoorden.
Anonimiseren is meer dan de naam weghalen
"Een jongen uit groep 4 met dyslexie wiens ouders net gescheiden zijn" is op een school met één groep 4 gewoon herkenbaar. Haal daarom ook groep, leeftijd, thuissituatie en opvallende details weg, of maak ze algemener. Vraag jezelf af: zou een collega of ouder raden over wie het gaat? Dan is het niet anoniem.
Welk account?
Gebruik alleen AI waarover je school of bestuur afspraken heeft gemaakt, bijvoorbeeld de AI in de Microsoft- of Google-omgeving van school met een verwerkersovereenkomst. Voor leveranciers van digitale leermiddelen werken veel scholen met het Convenant Digitale Onderwijsmiddelen en Privacy: daarin staan een model-verwerkersovereenkomst en een privacybijsluiter. Weet je niet welk account mag? Vraag het de privacyfunctionaris van je bestuur.
En als het toch misgaat?
Heb je per ongeluk leerlinggegevens in een chatbot gezet? Meld het meteen bij de privacyfunctionaris of directie. Vormt het een risico voor de betrokkenen, dan moet de school het datalek binnen 72 uur melden bij de Autoriteit Persoonsgegevens. Op tijd melden is geen schande; stilhouden wel een risico. Lees ook wat de AI-verordening van je school vraagt.