Les images générées par l'IA perpétuent les préjugés

Les chercheurs ont mis l'IA au défi de générer de nouvelles images pour réfuter les stéréotypes racistes dans le secteur mondial de la santé. Cependant, le programme a échoué. "Nous devons donc entraîner les modèles d'IA sur un ensemble de données représentatif afin de représenter plus correctement la réalité", indique-t-elle. 

Plus précisément, les scientifiques ont demandé à l'outil d'IA Midjourney Bot (5.1) de créer des images montrant des médecins africains noirs soignant des enfants blancs. "Malgré cette tâche simple, le robot n'a pas réussi", a déclaré l'anthropologue Koen Peeters (IMT). "Après 300 tentatives, les patients avaient toujours la peau foncée plutôt que claire. De plus, les résultats incluaient des éléments africains exagérés et culturellement offensants tels que des girafes, des éléphants et des vêtements caricaturaux."