Un sexagénaire, ancien dirigeant d'une fédération sportive, a récemment été filmé en train de faire des avances à une prétendue adolescente de 14 ans lors d'un live sur Twitch. L'homme, déjà condamné pour détention d'images pornographiques de mineurs, a été placé en garde à vue dès la diffusion de la vidéo, qui a rapidement fait le tour des réseaux sociaux.
Dans un échange particulièrement troublant, l’individu, connu pour avoir été un personnage public (sans plus de détails sur sa notoriété), parle avec une jeune fille fictive, créée par un activiste sous le nom de "Finnyzyy" grâce à une technologie d’intelligence artificielle. Pendant la conversation, il ne se gêne pas pour poser des questions suggestives comme : "Qu’est-ce que tu ferais pour me faire plaisir ?" L’adolescente, qui ne répond en réalité qu’à un avatar, demande à l’homme de se mettre à sa place, révélant ainsi l'absurdité de la situation.
Ce type de situation révèle des inquiétudes croissantes sur la manière dont les technologies de l'IA peuvent être utilisées pour piéger des individus qui se livrent à des comportements inappropriés. Selon des experts cités par le Le Monde, l'utilisation de tels outils peut mettre en lumière des prédateurs potentiels et soulever des questions éthiques sur la surveillance et la vie privée. De plus, des études suggèrent que ces techniques peuvent aider à prévenir des crimes en exposant le comportement déviant avant qu’il ne se traduise par des actes réels.
Le débat autour de ce sujet est complexe, certains craignant que des méthodes comme celle-ci ne franchissent une ligne morale, tandis que d'autres les considèrent comme absolument nécessaires pour protéger les plus vulnérables. Alors que les commissions européennes s'interrogent sur la régulation de l'IA, des cas comme celui-ci soulignent la nécessité de trouver un équilibre entre innovation technologique et protection des droits individuels.
