Nieuw toetsingskader helpt bij beoordelen AI in onderwijstoepassingen
Steeds vaker wordt AI toegepast in digitaal leermateriaal en schooladministratiesystemen. Dat biedt kansen voor gepersonaliseerd leren, het verlichten van administratieve lasten en onderwijsinnovatie. Tegelijkertijd brengt het – voor scholen – ook vragen met zich mee over privacy, gegevensbescherming, dataveiligheid, ethiek en de kwaliteit van het onderwijs. In dit kader ontwikkelt SIVON momenteel een Toetsingskader AI.
De Europese AI-verordening (AI Act) stelt specifieke eisen aan AI-toepassingen, waarbij onderwijstoepassingen vaak als ‘hoog-risico’ worden aangemerkt en daardoor aan strenge voorwaarden moeten voldoen. Leveranciers geven regelmatig aan dat zij zoekende zijn: hoe bepaal je of een toepassing onder de AI Act valt en welke eisen horen daarbij? Scholen vragen daarnaast steeds vaker aan onder andere SIVON naar de veiligheid van software en leermateriaal en naar de impact van AI in onderwijstoepassingen.
Toetsingskader AI
Om leveranciers en scholen hierbij te ondersteunen, ontwikkelt SIVON in opdracht van het ministerie van OCW en in samenwerking met Kennisnet en Edu-V een Toetsingskader AI. Dit kader helpt om inzicht te krijgen in:
- Wanneer een toepassing onder de AI-verordening valt (bijvoorbeeld bij zelflerende of autonome systemen).
- Hoe AI-toepassingen in het onderwijs in risicocategorieën kunnen worden ingedeeld, met speciale aandacht voor hoog-risico AI zoals in systemen die het onderwijsniveau beoordelen.
- Welke criteria relevant zijn vanuit het juridisch kader (AI -verordening).
- Praktijkvoorbeelden die laten zien hoe AI in onderwijssoftware wordt toegepast.
Het toetsingskader geeft scholen en leveranciers houvast en maakt het gesprek over AI-toepassingen eenvoudiger.
Samen met leveranciers en schoolbesturen
In het najaar wordt het toetsingskader AI afgestemd met leveranciers. Hierover wordt momenteel overlegd met Edu-V, de VDOD en de MEVW. Daarnaast is er een klankbordgroep van schoolbesturen betrokken. Mocht je meer willen weten, neem dan contact op met Arjan Geurts, projectleider toetsingskader AI via a.geurts@sivon.nl.
Het toetsingskader AI is voor de zomer beschikbaar.
Meer lezen?
- Bekijk de veelgestelde vragen over het veilig gebruiken van AI binnen de school.
- Lees het artikel in vakblad IPON over het toetsingskader AI.
- Bekijk de onderwerppagina van Kennisnet over AI