SIVON publiceert Toetsingskader AI voor onderwijs
SIVON presenteerde op 1 april een nieuw Toetsingskader AI dat de ict-coöperatie ontwikkelde met Kennisnet. Leveranciers kunnen hiermee, op basis van de Europese AI-Verordening, nagaan of hun ict-systeem met AI onder de nieuwe regels valt, welke risico’s dat meebrengt en welke maatregelen nodig zijn om aan de wettelijke eisen te voldoen en risico’s voor leerlingen en medewerkers te beperken.
Het toetsingskader vertaalt de AI-Verordening naar de onderwijspraktijk. De PO-Raad, VO-raad en diverse brancheverenigingen zijn hierbij geconsulteerd.
Toetsingskader: Rol voor scholen
Voor scholen is het met name interessant om zich bewust te zijn van de categorie Hoog Risico. Valt je AI-dienst in deze categorie? Dan moet je als school extra maatregelen nemen. Hoog-risico-toepassingen kunnen zijn:
- AII-systeem voor toelating tot of toewijzing van (beroeps)onderwijs
- AI-systeem voor het evalueren van leerresultaten
- AI-systeem voor het beoordelen van het onderwijsniveau
- AI-systeem voor het monitoren van deelnemers tijdens examens
In het toetsingskader wordt uitgelegd wanneer een systeem hieronder valt. Dit is sterk afhankelijk van de definitie van een AI-systeem volgens de AI-verordening. Ook mogelijke uitzonderingen en de maatregelen de leverancier en het schoolbestuur moeten nemen als ze gebruik maken van een hoog-risico-applicatie komen hierin terug.
❗Let op: Wordt er op jouw school AI-tools of generatieve AI door docenten aangepast voor onderwijstoepassingen? Dan kan jouw school gezien worden als aanbieder van een AI-systeem. Dit betekent dat de school ook alle (beveiligings)stappen van de leverancier moet doorlopen.
Wetgeving is nog in ontwikkeling
De wetgeving en toelichting op de AI-Verordening is nog in ontwikkeling. Doordat de precieze invulling van de nieuwe wet nog niet volledig bekend is, verwachten wij dat ook dit Toetsingskader AI regelmatig wordt geüpdatet met de meest recente informatie. Zodra nieuwe wetgeving bekend is, past SIVON het Toetsingskader hierop aan en communiceert SIVON de nieuwste versie richting scholen en leveranciers. Ook de VO-raad zal scholen wijzen op deze nieuwe versies.
Webinar voor schoolorganisaties: Aan de slag met het Toetsingskader AI
Wil jij als school meer weten over de impact van de AI Act op jouw dagelijkse werk? Op 13 april (15:30 – 16:30 uur) organiseert SIVON een online webinar voor scholen. Hierin wordt het Toetsingskader toegelicht en legt SIVON uit hoe je als school dit toetsingskader kunt gebruiken richting leveranciers. In het webinar is voldoende tijd om vragen te stellen over het gebruik van het Toetsingskader. Aanmelden kan via het online formulier.
Wil je meer weten over AI in het klaslokaal? De Tweede Kamer organiseert het Rondetafelgesprek AI in het Funderend Onderwijs. Vanuit het voortgezet onderwijs spreekt Tijmen Smit mee als bestuurder van het Kalsbeek College. Zijn position paper is hier te vinden. (Terug)kijken kan hier.