“Grok”, l’assistant IA du réseau social X a été utilisé pour dénuder des femmes et des mineurs en ligne, suscitant des protestations à travers le monde entier. Grok, ayant ainsi généré sur demande des contenus pédocriminels, des enquêtes sont en cours un peu partout.
RTL a sollicité une réaction auprès de la ministre de la Justice, qui est aussi ministre déléguée aux Médias et à la Communication. La responsabilité pénale est soulignée d’emblée par Elisabeth Margue dans l’interview accordée à RTL. “Le fait que des contenus pédopornographiques soient créés est un délit, quelle que soit la manière dont ces contenus ont été générés, par l’IA ou autre”, précise la ministre.
Elisabeth Margue indique qu’à sa connaissance, aucun cas ni dénonciation n’a été signalé pour le moment au Luxembourg concernant des mineurs ou des adultes qui auraient été victimes d’abus via l’outil IA Grok. Ce point sera toutefois vérifié auprès des autorités judiciaires. Outre BeeSecure, les instances judiciaires sont les interlocuteurs à contacter pour les personnes dont l’image ou la photo aurait été détournée par l’IA.
Quant à savoir si Grok, ou le réseau X, sont pénalement responsables parce que l’outil IA a été utilisé pour, notamment, dénuder des enfants sur des images, la ministre n’a pas pu répondre. Les règles européennes imposent aux services d’intelligence artificielle de garantir qu’ils ne soient pas utilisés à mauvais escient pour créer et diffuser des contenus illégaux. La ministre a également souligné que l’UE a lancé une enquête à ce sujet.
Une interdiction de Grok relèverait aussi de la décision de la Commission européenne et non des autorités nationales, explique la ministre. Parler de censure à propos des règles européennes, comme le fait le patron de Grok, le multimilliardaire de la tech Elon Musk, n’est pas approprié selon Elisabeth Margue. Il s’agit clairement d’infractions pénales.
