Vraag je AI een plaatje te creëren van een mens, zonder daarbij een voorkeur mee te geven voor een bepaald gender? Dan is de kans groter dat je een afbeelding van een man krijgt dan eentje van een vrouw. Generatieve AI-tools waarmee we afbeeldingen kunnen creëren, zijn bevooroordeeld als het gaat om gender, weten we uit eerder onderzoek.

Maar wat we nog niet weten, vertelt computer vision-onderzoeker Nanne van Noord, is hoe dat werkt met afbeeldingen van historische of specifieke culturele settings. ‘Als daarbij dezelfde bias geldt, zou je bijvoorbeeld verwachten dat het makkelijker is om een afbeelding te maken van een mannelijk figuur in een historisch typisch vrouwelijke rol, dan een vrouwelijk figuur als generaal in een Romeins leger. In hoeverre dat zo is, gaan we in dit project onderzoeken.’

AI-beeld in het wild

Het is belangrijk dat we beter leren begrijpen hoe generatieve AI (GenAI) de visuele representatie van gender beïnvloedt, legt Van Noord uit, omdat die technologie de laatste jaren steeds prominenter is geworden. ‘Sinds kort zijn tools om afbeeldingen te genereren toegankelijk voor iedereen. Daardoor zien we nu AI-afbeeldingen “in het wild” verschijnen, bijvoorbeeld in advertenties, en ook in kunst. Terwijl we eigenlijk nog helemaal niet goed weten wat voor invloed zo’n AI-systeem zelf heeft op de afbeeldingen die het maakt.’

Het project wordt uitgevoerd door onderzoekers uit verschillende vakgebieden: naast Van Noord maken Eftychia Stamkou (sociale en culturele psychologie) en Melvin Wevers (geschiedenis en digitale methoden) deel uit van het onderzoeksteam. ‘Die interdisciplinaire aanpak is belangrijk’, legt Van Noord uit, ‘want het onderliggende probleem is zelf ook interdisciplinair: het gaat om technische AI-systemen, maar ook de interpretatie van de resultaten door mensen, en de socio-historische context in zowel de prompt als het resultaat.’

Samen met ontwerpers en kunstenaars

Het idee voor het onderzoek vloeit voort uit bestaande projecten van de betrokken onderzoekers. Zo werken Van Noord en Wevers al langer samen aan onderzoek naar bias en cultureel begrip binnen AI-systemen. Samen met Stamkou deed Van Noord al eerder onderzoek naar de representatie van vrouwen in kunst: zo onderzochten ze samen met WOMEN Inc. of er binnen de collectie van museum Singer Laren sprake was van genderongelijkheid.

Naast onderzoekers van verschillende faculteiten zijn ook partners van buiten de universiteit betrokken bij het onderzoek: de Hogeschool van Amsterdam, het Sandberg Instituut (de masteropleiding van de Gerrit Rietveld Academie) en ontwerpbureau Studio Bertels. ‘De impact en het gebruik van generatieve AI zijn voornamelijk terug te vinden in de creatieve en artistieke industrie’, vertelt Van Noord. ‘Daarom werken we samen met partners uit die sectoren, om beter te begrijpen hoe zij omgaan met de biases in GenAI-systemen.’

Samen met kunstenaars gaan de onderzoekers workshops organiseren om data en kritische inzichten te verzamelen rondom het gebruik van GenAI, om zo beter te doorgronden hoe AI de voorstelling van gender beïnvloedt. Van Noord: ‘Hiermee hopen we uiteindelijk bij te dragen aan de ontwikkeling van inclusieve, creatieve hulpmiddelen voor onderzoek, onderwijs en de kunsten.’