Fair Machine Learning & AI

Machine Learning en AI nemen een vlucht, ook in het hoger onderwijs. Het zijn bruikbare methoden om in te zetten bij het analyseren van studiedata. Maar hoe eerlijk en (on)bevooroordeeld zijn de data en analyses die eruit voortkomen?

Binnen het lectoraat Learning Technology & Analytics doen we onderzoek naar eerlijkheid (fairness) en vooroordelen (bias) in relatie tot Machine Learning en AI in het hoger onderwijs.

Het begrip eerlijkheid is op meerdere manieren relevant: Is de verzameling van data wel eerlijk? Doen we voldoende recht aan de studenten van wie we studiedata onderzoeken? Wat vertellen studiedata over hoe eerlijk we als onderwijsinstellingen handelen? Zijn algoritmes wel eerlijk? Is het gebruik van voorspelmodellen door docenten, begeleiders of beleidsmedewerkers wel eerlijk?

Uitbalanceren

Een voorbeeld van dit type onderzoek is het promotieonderzoek van de lector, Theo Bakker. Daarin bracht hij met behulp van een statistisch methode, propensity score weighting, de data van studenten met en zonder autisme met elkaar in balans. Deze techniek helpt om beter te begrijpen welke verschillen er tussen groepen daadwerkelijk zijn en daar begeleiding en beleid op af te kunnen stemmen.

Ook helpt uitgebalanceerd onderzoek bij het herwaarderen van (voor)oordelen. Zo bleek in het onderzoek na balancering van studiedata van studenten met autisme dat hun studievoortgang vrijwel even goed was als dat van hun studiegenoten, maar toonde het ook aan dat een betere voorbereiding op toetsing wel een aandachtspunt was. Dit soort correcties op data zou een standaard aanpak moeten zijn bij het onderzoeken van (minderheids)groepen studenten in het hoger onderwijs.

Plannen

Vragen die we binnen dit project op termijn ook willen beantwoorden zijn:

• welke biases komen voor op welke plek in het data science proces?
• wat zijn voorbeelden zijn er uit de onderwijspraktijk?
• welke begrippen van fairness zijn er?
• wat kunnen we doen om bias te reduceren en fairness te verhogen?
• wat zijn daarvan de voordelen en de trade-offs?

Contact

Ben je geïnteresseerd in de uitkomsten van dit onderzoek of zou je als opleiding deel willen nemen? Neem dan contact op met de lector, Theo Bakker, [email protected].