Les autorités indonésiennes ont décidé de suspendre temporairement Grok, l'assistant d'intelligence artificielle de la plateforme X, suite à un scandale de créations d'images pornographiques. Cette décision a été prise en réponse à des préoccupations croissantes concernant la génération non consensuelle d'images dénudées de personnes réelles. Dans un communiqué, Meutya Hafid, la ministre de la Communication et du Numérique, a souligné que la technologie était utilisée pour nuire à des individus, mettant ainsi en danger leur dignité et leur sécurité.
Le gouvernement indonésien a qualifié les deepfakes non consensuels de "violation grave des droits humains" et a convoqué des représentants de la plateforme X pour discuter de cette problématique. Cette décision intervient alors que le Royaume-Uni et l'Union européenne se prononcent également contre les abus liés à l'utilisation de l'intelligence artificielle. La France, par la voix de Roland Lescure, ministre de l'Économie, a salué cette action, tout en soulignant qu'il s'agissait d'un premier pas dans la lutte contre ces dérives.
Grok, face aux critiques, a restreint l'accès à la fonctionnalité générant des images à caractère sexuel, la réservant désormais aux abonnés payants. Cependant, cette réponse a été perçue par certains comme une "insulte aux victimes de violences sexuelles". Selon un porte-parole du Premier ministre britannique, cette réponse n'est qu'une transformation d'une fonctionnalité problématique en service premium.
En France, des experts tels que la sociologue Marie Durand soulignent que ces mesures doivent être plus robustes. "Tant que les technologies d'intelligence artificielle ne seront pas encadrées de manière stricte, nous continuerons de voir des abus", a-t-elle déclaré à l'AFP. La nécessité de régulations plus strictes est d'autant plus pressante alors que le public exprime sa colère sur les réseaux sociaux, face à l'impunité de tels actes.
En somme, la suspension de Grok par l'Indonésie est un appel à un dialogue mondial sur les enjeux éthiques de l'intelligence artificielle, un sujet qui mérite une attention urgente et collective.
