San Francisco (États-Unis) - Le procureur général de Californie a annoncé mercredi le lancement d'une enquête contre xAI, en raison d'une montée alarmante des images dénudées de femmes et d'enfants générées par l'assistant d'intelligence artificielle Grok, développé par l'entreprise d'Elon Musk.
Dans un communiqué, le procureur Rob Bonta, représentant du Parti démocrate, a affirmé que xAI facilitait la création exponentielle de détournements non consentis d'images intimes, notamment à travers le réseau social X, également propriété de Musk. "Nous allons examiner comment xAI a potentiellement violé la loi", a-t-il déclaré. L'enquête se concentre sur l'utilisation abusive de cette technologie, qui semble encourager des comportements de harcèlement sur la plateforme.
Bonta a exhorté xAI à agir sans délai pour prévenir toute nouvelle diffusion de ces contenus inappropriés, affirmant que "nous avons une tolérance zéro pour la création et le partage d'images intimes non consenties ou de matériel pédopornographique".
Le débat autour de Grok a pris de l'ampleur au niveau international ces dernières semaines. Les utilisateurs ont commencé à exploiter les capacités de l'IA pour modifier des images, en lançant des slogans tels que "Mets-la en bikini" pour générer des montages hautement réalistes. Cette évolution a soulevé de vives inquiétudes concernant la sécurité et la dignité des individus concernés.
Le 9 janvier dernier, x a désactivé la fonctionnalité de création d'images pour ses utilisateurs non payants, après avoir constaté l'augmentation de contenus illégaux. Malgré ces efforts, le constat reste préoccupant. Le procureur Bonta a accusé xAI d'avoir mis en avant cette capacité comme un argument marketing, ce qui a, sans surprise, entraîné une exacerbation des contenus sexualisés, souvent sans consentement.
Une analyse récente menée par l'ONG AI Forensics sur plus de 20 000 images générées par Grok a révélé que plus de la moitié d'entre elles présentaient des personnes légèrement vêtues, dont 81 % étaient des femmes, et que 2 % semblaient des mineurs. Ces statistiques jettent une ombre significative sur l'impact de cette technologie.
Des pays comme l'Indonésie et la Malaisie ont réagi en suspendant l'accès à Grok, tandis que l'Inde a supprimé des milliers de contenus inappropriés sur X. Parallèlement, des enquêtes sont également en cours dans des pays tels que le Royaume-Uni et la France, alors que la question de l'éthique de l'IA continue de susciter des discussions animées.
Les voix publiques, y compris celles de spécialistes en droit numérique, s'élèvent pour demander des protections renforcées afin d'éviter d'autres abus. Ces incidents soulignent la nécessité d'une réglementation stricte concernant l'utilisation de l'IA et des deepfakes, un sujet brûlant dans le contexte actuel de l'évolution technologique rapide.
