Le monde de l'intelligence artificielle est secoué par une affaire grave. Trois adolescents du Tennessee ont déposé une plainte contre xAI, la société d'Elon Musk, alléguant que son chatbot Grok a généré des images et des vidéos à caractère sexuel les mettant en scène alors qu'ils étaient mineurs. Cette information a été initialement rapportée par le Washington Post.

La plainte, déposée lundi, prend la forme d'une action collective et accuse Elon Musk et d'autres dirigeants de xAI d'avoir sciemment lancé le « spicy mode » de Grok l'année dernière, tout en sachant que cela conduirait à la production de matériel pédopornographique (CSAM) généré par l'IA. Parmi les plaignants figurent deux mineurs et un adulte qui était mineur au moment des faits incriminés.

Selon la plainte, l'une des victimes, identifiée comme « Jane Doe 1 », a découvert en décembre dernier l'existence d'images explicites générées par l'IA la représentant. Les détails précis de la manière dont ces images ont été créées et diffusées ne sont pas entièrement clairs à ce stade, mais l'accusation centrale est que Grok a été utilisé pour générer du contenu préjudiciable et illégal impliquant des mineurs.

Cette affaire soulève des questions éthiques et juridiques cruciales concernant la responsabilité des entreprises développant des systèmes d'IA générative. La capacité de ces systèmes à créer des images et des vidéos hyperréalistes pose un risque évident de création de faux contenus, y compris du CSAM. La question clé est de savoir dans quelle mesure les développeurs sont responsables des utilisations abusives de leur technologie, en particulier lorsqu'il s'agit d'activités illégales.

Le « spicy mode » mentionné dans la plainte fait probablement référence à une fonctionnalité permettant aux utilisateurs de demander à Grok de générer du contenu plus audacieux ou suggestif. L'accusation est que xAI a mis en place cette fonctionnalité sans mettre en œuvre des protections adéquates pour empêcher la génération de CSAM.

Cette affaire aura certainement des répercussions importantes sur l'industrie de l'IA. Elle pourrait inciter les législateurs à adopter des réglementations plus strictes concernant le développement et le déploiement de systèmes d'IA générative, en particulier en ce qui concerne la protection des mineurs. Elle pourrait également conduire à une plus grande sensibilisation aux risques potentiels de ces technologies et à la nécessité de mettre en place des mesures de sécurité robustes.

Il est important de noter qu'il s'agit d'une plainte et que les accusations n'ont pas encore été prouvées devant un tribunal. xAI n'a pas encore publié de déclaration officielle en réponse à la plainte. L'affaire est en cours et il faudra suivre son évolution pour voir comment elle se déroulera et quelles en seront les conséquences pour xAI et pour l'ensemble du secteur de l'IA.