Hoe beïnvloedt AI de beelden die het genereert?
Nu iedereen met behulp van AI afbeeldingen kan creëren, zien we steeds meer door AI gegenereerd beeld om ons heen. Tegelijkertijd is er maar weinig bekend over hoe de achterliggende AI-systemen werken, en hoe bevooroordeeld die zijn – bijvoorbeeld op het gebied van gender. Een interdisciplinair team van UvA-wetenschappers gaat daar onderzoek naar doen. In het project Visual Imaginaries of Gender, dat binnenkort van start gaat, gaan de onderzoekers samenwerken met partners uit de culturele sector.

Vraag je AI een plaatje te creëren van een mens, zonder daarbij een voorkeur mee te geven voor een bepaald gender? Dan is de kans groter dat je een afbeelding van een man krijgt dan eentje van een vrouw. Generatieve AI-tools waarmee we afbeeldingen kunnen creëren, zijn bevooroordeeld als het gaat om gender, weten we uit eerder onderzoek.
Maar wat we nog niet weten, vertelt computer vision-onderzoeker Nanne van Noord, is hoe dat werkt met afbeeldingen van historische of specifieke culturele settings. ‘Als daarbij dezelfde bias geldt, zou je bijvoorbeeld verwachten dat het makkelijker is om een afbeelding te maken van een mannelijk figuur in een historisch typisch vrouwelijke rol, dan een vrouwelijk figuur als generaal in een Romeins leger. In hoeverre dat zo is, gaan we in dit project onderzoeken.’

De impact en het gebruik van generatieve AI zijn voornamelijk terug te vinden in de creatieve en artistieke industrie. Daarom werken we samen met partners uit die sectoren.Nanne van Noord
AI-beeld in het wild
Het is belangrijk dat we beter leren begrijpen hoe generatieve AI (GenAI) de visuele representatie van gender beïnvloedt, legt Van Noord uit, omdat die technologie de laatste jaren steeds prominenter is geworden. ‘Sinds kort zijn tools om afbeeldingen te genereren toegankelijk voor iedereen. Daardoor zien we nu AI-afbeeldingen “in het wild” verschijnen, bijvoorbeeld in advertenties, en ook in kunst. Terwijl we eigenlijk nog helemaal niet goed weten wat voor invloed zo’n AI-systeem zelf heeft op de afbeeldingen die het maakt.’
Het project wordt uitgevoerd door onderzoekers uit verschillende vakgebieden: naast Van Noord maken Eftychia Stamkou (sociale en culturele psychologie) en Melvin Wevers (geschiedenis en digitale methoden) deel uit van het onderzoeksteam. ‘Die interdisciplinaire aanpak is belangrijk’, legt Van Noord uit, ‘want het onderliggende probleem is zelf ook interdisciplinair: het gaat om technische AI-systemen, maar ook de interpretatie van de resultaten door mensen, en de socio-historische context in zowel de prompt als het resultaat.’
Samen met ontwerpers en kunstenaars
Het idee voor het onderzoek vloeit voort uit bestaande projecten van de betrokken onderzoekers. Zo werken Van Noord en Wevers al langer samen aan onderzoek naar bias en cultureel begrip binnen AI-systemen. Samen met Stamkou deed Van Noord al eerder onderzoek naar de representatie van vrouwen in kunst: zo onderzochten ze samen met WOMEN Inc. of er binnen de collectie van museum Singer Laren sprake was van genderongelijkheid.
Naast onderzoekers van verschillende faculteiten zijn ook partners van buiten de universiteit betrokken bij het onderzoek: de Hogeschool van Amsterdam, het Sandberg Instituut (de masteropleiding van de Gerrit Rietveld Academie) en ontwerpbureau Studio Bertels. ‘De impact en het gebruik van generatieve AI zijn voornamelijk terug te vinden in de creatieve en artistieke industrie’, vertelt Van Noord. ‘Daarom werken we samen met partners uit die sectoren, om beter te begrijpen hoe zij omgaan met de biases in GenAI-systemen.’
Samen met kunstenaars gaan de onderzoekers workshops organiseren om data en kritische inzichten te verzamelen rondom het gebruik van GenAI, om zo beter te doorgronden hoe AI de voorstelling van gender beïnvloedt. Van Noord: ‘Hiermee hopen we uiteindelijk bij te dragen aan de ontwikkeling van inclusieve, creatieve hulpmiddelen voor onderzoek, onderwijs en de kunsten.’

Impact story: Creativiteit & GenAI
GenAI biedt ongekende mogelijkheden voor het creëren van content. Maar welke risico's en ethische vraagstukken komen erbij kijken? UvA-wetenschappers doen hier onderzoek naar vanuit een groot aantal vakgebieden.
Verantwoorde Digitale Transformaties
De interdisciplinaire, UvA-brede community voor onderzoek naar de ethische, juridische en maatschappelijke aspecten van digitale technologieën
Visual Imaginaries of Gender: The potentials and limitations of GenAI
This project investigates the gender imaginaries of Generative Artificial Intelligence (GenAI) for image generation. Whilst prior research has demonstrated that GenAI defaults to masculine when prompted without gender in...
Een methode om AI begrijpelijk te maken voor mensen
AI creëert eindeloze mogelijkheden door veel van onze taken over te nemen. Maar hoe kunnen we ervoor zorgen dat AI-modellen begrijpelijk en uitlegbaar zijn voor mensen? In een nieuw, interdisciplinair onderzoeksproject o...