AI-gegenereerde beelden houden vooroordelen in stand
LONDON 31/01 - Afbeeldingen die werden gegenereerd met behulp van artificiële intelligentie versterken raciale stereotypen en houden zo vooroordelen in stand. Dat blijkt uit een onderzoek van het Instituut voor Tropische Geneeskunde (ITG) en de Universiteit van Oxford, gepubliceerd in The Lancet Global Health.
De onderzoekers daagden AI uit om nieuwe beelden te genereren die racistische stereotypen in de internationale gezondheidssector moesten weerleggen. Het programma faalde echter. "We moeten daarom AI-modellen trainen op een representatieve dataset, zodanig de werkelijkheid correcter weer te geven", klinkt het.
Concreet vroegen de wetenschappers aan AI-tool Midjourney Bot (5.1) om afbeeldingen te maken met zwarte Afrikaanse artsen die witte kinderen behandelen. "Ondanks de eenvoudige opdracht slaagde de bot er niet in", weet antropoloog Koen Peeters (ITG). "Na 300 pogingen hadden de patiënten nog altijd een donkere in plaats van een lichte huidskleur. Bovendien bevatten de resultaten overdreven en cultureel aanstootgevende Afrikaanse elementen zoals giraffen, olifanten en karikaturale kleding."
Wilt u de rest van dit artikel lezen?
Registreer gratis om toegang te krijgen tot de volledige inhoud van MediQuality op al uw schermen
