A.I. getraind om ongewenst gedrag te voorkomen

Eline Feenstra

2019-11-22 08:59:13

Amerikaanse onderzoekers hebben algoritmes ontwikkeld die A.I. trainen om onder meer gendervooroordelen te voorkomen.

Kunstmatige intelligentie (A.I.) wordt tegenwoordig volop ingezet. Zelfsturende auto’s, robots en automatische beslissystemen: niets is te gek. Door middel van zelflerende algoritmes kunnen computers getraind worden, waardoor zij vervolgens in staat zijn om zichzelf te ontwikkelen en te verbeteren.

Maar naast al deze coole state-of-the-art ontwikkelingen komt er ook een gevoelige kant bij kijken. Zo helpt A.I. bij de selectie van kandidaten voor een sollicitatiegesprek, of zelfs de selectie van gevangenen. En dan wil je vooroordelen buiten de deur houden. Beleidsmakers dringen er daarom op aan dat computerwetenschappers garanties bieden dat geautomatiseerde systemen ongewenste uitkomsten, zoals vooroordelen op basis van geslacht of ras, minimaliseren.

Lees ook:

Concrete wiskunde

De nieuwe techniek zet een ‘vaag’ doel zoals een gendervooroordeel, om in concrete wiskundige criteria, waardoor de machine getraind kan worden om dit gedrag te voorkomen, zo schrijven de onderzoekers in vakblad Science. Het doel is om een kunstmatig systeem te creëren die zo dicht mogelijk bij de reële omstandigheden ligt. Hierbij moet het voor de gebruikers mogelijk zijn om aan te geven wat voor soort ongewenst gedrag ze willen beperken.

Schoolbanken

Het systeem is al getest in de schoolbanken om de Grade Point Average (GPA), een schoolcijfer waarbij de gemiddelde tentamencijfers worden gewogen naar studiepunten, te kunnen voorspellen – gebaseerd op eerdere examencijfers. Dit is een handeling waar vaak vooroordelen op basis van geslacht bij komen kijken.

De onderzoekers gaven het algoritme instructies met behulp van codetaal om te voorkomen dat een specifiek geslacht overschat of onderschat werd. Met deze instructies slaagde het algoritme erin om GPA’s van studenten beter te voorspellen met veel minder systematische gendervooroordelen dan bestaande methoden.

Volgens de onderzoekers is het belangrijk om een evenwicht te vinden tussen het creëren van krachtige algoritmen en het ontwikkelen van methoden om hun betrouwbaarheid te waarborgen. Zeker in een wereld waarbij we steeds afhankelijker worden van AI.

Bronnen: Science, EurekAlert!

KIJK 12-2019Ben je geïnteresseerd in de wereld van wetenschap & technologie en wil je hier graag meer over lezen? Word dan lid van KIJK!







Podcast KIJK en luister via JUKE



Meer Nieuws