Gemini de Google génère des images de nazis noirs

La controverse a éclaté sur la scène numérique le 21 février 2024, projetant Gemini, l'intelligence artificielle de Google, au cœur d'un cyclone médiatique déclenché par la génération d'images historiquement inexactes. Des images retouchées de soldats nazis de couleur et de vikings asiatiques, diffusées sur la plateforme sociale X, ont attisé une polémique aux implications plus vastes que le simple cadre de l'exercice technologique.

L'Escalade de la Polémique

L'outil était conçu pour répondre aux commandes de production d'images variées. Cependant, avec des résultats montrant principalement des hommes et femmes de couleur en réponse à des prompts historiques, et le refus apparent de l’IA de générer des images de personnes blanches, Gemini s'est retrouvé accusé d'une tentative de remodelage de l'histoire et d'effacement des individus blancs par certains influenceurs d'extrême droite.

La réponse de l'IA aux requêtes spécifiques sur la race ou l'ethnicité a souligné un aspect critique de ce débat: l'IA de Gemini a refusé de créer des images basées explicitement sur ces critères, invoquant une impossibilité technique alignée sur les captures d'écran partagées par les utilisateurs.

Gemini aurait refuse de créer une image de famille blanche // Source : Capture d’écran Staff-ia 

Google: Mesures et Excuses

Face à une situation galopante, Google a mis en pause la fonctionnalité de génération d'images de personnes sur Gemini. Un message officiel exprimant des excuses a été diffusé : « Nous nous efforçons d’améliorer immédiatement ce type de représentation. La génération d’images par l’IA de Gemini génère un large éventail de personnes. Et c’est généralement une bonne chose, car des gens du monde entier l’utilisent. Mais dans le cas présent, l’IA n’est pas à la hauteur. », évoquant une prise de conscience des inexactitudes et une promesse d'amélioration immédiate.

Le Débat sur la Diversité et l'Historicité

La diversité, généralement perçue comme une valeur positive dans la représentation IA, semble avoir eu un effet pervers dans ce contexte, soulignant la difficulté d'équilibrer une représentativité diverse avec la précision historique. Les IA, souvent formées sur des bases de données biaisées, se retrouvent à jongler entre la correction des stéréotypes et le respect des faits historiques.

Changement Promis : La Voie à Suivre

Google a souligné son engagement à résoudre rapidement les problèmes de biais et de représentation de Gemini. L'annonce d'une version améliorée de cette fonctionnalité, où l'équilibre entre diversité et précision historique sera finement ajusté, est attendue par les utilisateurs et les critiques de cette technologie.

Ce schisme autour de Gemini nous rappelle intensément les limites actuelles des IA et la nécessité impérieuse de leur formation sur des données historiquement précises et éthiquement responsables. Alors que Google travaille sur une version revue de Gemini, cette situation reste un cas d'étude vivant sur les dangers et les défis liés à une technologie en évolution rapide et son interaction complexe avec les normes sociales et historiques.