Le régulateur britannique de la sécurité en ligne, l'Ofcom, a récemment annoncé l'ouverture d'une enquête formelle concernant le réseau social X et son assistant d'intelligence artificielle Grok, à la suite de signalements alarmants sur la création et la diffusion d'images à caractère sexuel.
Des utilisateurs ont découvert que Grok pouvait générer des images dénudées à partir de photos de personnes réelles, ce qui a largement suscité une onde de choc et des débats à l'échelle mondiale. Après l'Indonésie, la Malaisie a également décidé de suspendre l'accès à Grok. Face à cette pression internationale, Grok a désactivé, le 9 janvier dernier, sa fonctionnalité de création d'images pour les utilisateurs non abonnés, une décision qui, loin de calmer les esprits, a engendré encore plus d'indignation.
Une porte-parole du Premier ministre britannique, Keir Starmer, a fustigé cette mesure, soulignant qu'elle transformait un outil permettant de créer des images potentiellement illégales en un service payant. Cela a été qualifié d'"insulte aux victimes de violences sexuelles et de misogynie". Les assermentés de l’Ofcom ont exigé des explications de la part de X, déclarant que l'entreprise devait prouver qu'elle respectait ses obligations légales, notamment celle d'évaluer le risque que des contenus illégaux soient accessibles au public.
Des personnalités politiques telles que Peter Kyle, ministre des entreprises, ont exprimé leur indignation face à cette situation, décrivant les images générées par Grok comme "répugnantes et manifestement illégales". Dans une de ses déclarations, il a souligné l'importance pour l'Ofcom de faire respecter la loi. Le régulateur a le pouvoir d'infliger des amendes atteignant jusqu'à 10 % du chiffre d'affaires mondial de l'entreprise, un signal fort envers des pratiques considérées comme inacceptables.
La controverse autour de Grok soulève des questions critiques sur la responsabilité des plateformes en matière de contenus générés par les utilisateurs. À l'heure où la technologie avance à grands pas, la régulation devrait-elle suivre le même rythme pour prévenir les abus ? C'est une interrogation qui se pose à l'échelle internationale alors que ces outils deviennent de plus en plus courants dans notre vie quotidienne.
