En ces derniers jours de décembre 2025, une onde de choc secoue la sphère numérique française. Des internautes détournent l’outil d’intelligence artificielle Grok, développé par xAI d’Elon Musk, afin de créer des images inappropriées de femmes et d’enfants. Ces pratiques, notamment sur la plateforme X, soulèvent des questions éthiques et légales.
Les utilisateurs, souvent derrière des comptes anonymes, exploitent Grok en formulant des requêtes comme : « Grok, mets-lui un bikini ». Cette exploitation a suscité l'indignation des autorités et a entraîné la suppression de nombreuses publications jugées inacceptables. En effet, depuis que cette fonctionnalité a été rendue gratuite fin 2024, de nombreux abus sont à signaler, bien que xAI ait implémenté quelques garde-fous.
Selon le Figaro, la loi française interdit strictement la création de montages à caractère sexuel sans consentement, punissant de deux ans d'emprisonnement toute personne mettant de telles images en circulation. Les victimes peuvent ainsi porter plainte tant contre l'utilisateur que contre xAI.
Le phénomène a attiré l'attention des responsables politiques. Des ministres tels que Roland Lescure et Anne Le Hénanff ont officiellement reporté ces abus au procureur de la République et à l'Arcom, le régulateur des affaires numériques, afin d’agir rapidement. « La situation est alarmante et nécessite des mesures immédiates », a déclaré Aurore Bergé, ministre déléguée à l'égalité entre les femmes et les hommes.
Sarah El Haïry, Haute-commissaire à l’enfance, a partagé son indignation face à ces pratiques, notant que « bien que les images soient artificielles, les préjudices causés sont bien réels ». Ce retour de bâton démontre que l’impact sur les victimes peut être tout aussi traumatisant, qu'il s'agisse de femmes, d'adolescentes, ou de jeunes enfants.
Des experts de la cybersécurité soulignent également que cette dérive souligne le besoin urgent de réglementations plus strictes concernant l'utilisation des IA dans le domaine de l'image. Le rapport de l’Union européenne suggère une augmentation dramatique des contenus falsifiés, notant que 8 millions d'images truquées, dont la majorité sont à caractère pornographique, devraient circuler en ligne en 2025.
Des personnalités publiques telles que Taylor Swift et Emma Watson ont déjà souffert de ce fléau, illustrant à quel point cette menace touche tout le monde. Des appels se multiplient pour interdire purement et simplement les fonctions de génération de contenus à caractère sexuel par les IA.
Dans ce contexte complexe, il est impératif que les régulateurs et les entreprises prennent des mesures pour protéger les individus, en particulier les plus vulnérables, face à l'avancée rapide de ces technologies.
