L'intelligence artificielle générative fascine autant qu'elle interroge. En 2024, la sortie de Sora, le modèle de génération de vidéos à partir de texte d'OpenAI, a suscité un vif intérêt, y compris chez la réalisatrice Valerie Veatch. Intriguée par le potentiel créatif de cette technologie, elle a observé l'émergence de communautés en ligne dédiées au partage de créations générées par IA. L'espoir de connecter avec d'autres artistes l'a attirée dans cet univers numérique.

Cependant, l'enthousiasme initial de Veatch a rapidement cédé la place à l'inquiétude. Elle a été profondément choquée par la fréquence à laquelle l'IA générait des images teintées de racisme et de sexisme. Des stéréotypes éculés, des représentations biaisées et des caricatures déshumanisantes semblaient surgir spontanément des algorithmes, comme si un subconscient numérique malsain se manifestait à travers ces créations.

Ce qui a particulièrement troublé Veatch, c'est l'apparente indifférence de certains membres de la communauté IA face à ces dérives. Loin de s'en offusquer, certains semblaient minimiser, voire ignorer, l'impact de ces biais. Cette attitude l'a amenée à s'interroger sur les valeurs qui sous-tendent le développement de ces technologies et sur les conséquences potentielles d'une IA qui reproduit et amplifie les inégalités.

La découverte de ces biais n'est pas une surprise totale. Les IA génératives sont entraînées sur de vastes ensembles de données, souvent issus d'Internet, qui reflètent les préjugés et les stéréotypes présents dans la société. Si les développeurs ne prennent pas des mesures actives pour corriger ces biais, l'IA risque de les reproduire et de les amplifier, perpétuant ainsi des discriminations existantes.

L'expérience de Valerie Veatch souligne la nécessité d'une réflexion éthique approfondie sur le développement et l'utilisation de l'IA générative. Il est crucial de sensibiliser les développeurs et les utilisateurs aux risques de biais, de mettre en place des mécanismes de contrôle et de correction, et de promouvoir une approche responsable et inclusive de l'IA. L'avenir de cette technologie dépend de notre capacité à garantir qu'elle serve l'humanité dans son ensemble, sans reproduire les erreurs du passé. L'IA ne doit pas être un outil de renforcement des inégalités, mais un levier pour un monde plus juste et équitable. Il est impératif de développer des IA qui reflètent la diversité du monde et qui respectent la dignité de chaque individu. Sinon, le "Kool-Aid" de l'IA générative risque d'avoir un goût amer, celui de l'eugénisme et de la discrimination généralisée.