Jornal Do Brasilia - X dit bloquer le "déshabillage" des "personnes réelles" avec Grok, mais reste sous enquête

"Nous avons mis en place des mesures technologiques pour empêcher le compte Grok de permettre l'édition d'images de personnes réelles dans des tenues révélatrices, comme des bikinis", a indiqué X dans un message publié mercredi en fin de journée aux Etats-Unis.

X affirme imposer ces restrictions d'"édition" à "tous les utilisateurs, y compris les abonnés payants". Mais le message laisse planer une incertitude, puisqu'il précise appliquer un "blocage géographique" pour la "génération" avec Grok d'images dénudées de personnes réelles seulement "au sein des juridictions où cela est illégal".

Quelques heures plus tôt, l'UE et le Royaume-Uni avaient salué avec prudence ces mesures supplémentaires, annoncées mais non encore publiques ni détaillées.

"Nous prenons acte des mesures supplémentaires adoptées" et "nous évaluerons attentivement ces changements afin de nous assurer qu'ils protègent efficacement les citoyens de l'Union européenne", avait déclaré Thomas Regnier, un porte-parole de la Commission européenne.

Selon lui, "si ces changements n'étaient pas effectifs, la Commission n'hésiterait pas à utiliser tout" son arsenal législatif, qui lui permet d'infliger des astreintes financières, voire de suspendre le réseau social sur son sol.

"J'ai été informé ce matin que X agit pour assurer une totale conformité avec la législation britannique", avait déclaré avant lui le Premier ministre Keir Starmer devant son Parlement.

"Si c'est le cas, c'est une bonne chose, mais nous ne reculerons pas et ils doivent agir", avait-il averti, rappelant l'ouverture d'une enquête indépendante lundi par une autorité de régulation britannique.

Jeudi, la Malaisie, pays à majorité musulmane, a indiqué que ses autorités de régulation nationales avaient constaté que les mesures prises par X pour empêcher Grok de générer des images indécentes "n'avaient pas été mises en oeuvre dans leur totalité".

Les Philippines, plus grand pays catholique d'Asie, ont prévu de leur côté de suspendre l'accès à Grok "d'ici ce (jeudi) soir" en raison des montages hyper réalistes de personnes réelles dénudées.

Comme depuis le 9 janvier, la génération d'images avec Grok, l'assistant IA développé par xAI, reste limitée aux abonnés payants, confirme X.

Début janvier, la plateforme avait affirmé "prendre des mesures contre les contenus illégaux (...) en les supprimant, en suspendant définitivement les comptes et en collaborant avec les autorités locales".

Mais elle était restée silencieuse ensuite malgré la multiplication des protestations et menaces de sanctions officielles.

Certains utilisateurs se sont servis de Grok pour poster sur X ou répondre à des messages contenant des photos de femmes, les accompagnant d'une instruction comme "Mets-la en bikini" pour générer un montage hyper-réaliste ("deepfake").

- Enquête californienne -

Selon une analyse la semaine dernière de l'ONG AI Forensics, réalisée sur plus de 20.000 images générées par Grok, plus de la moitié représentaient des personnes légèrement vêtues, dont 81% étaient des femmes et 2% paraissaient mineures.

Le scandale a conduit à la suspension de Grok en Indonésie et en Malaisie ce week-end. L'Inde a affirmé avoir fait retirer des milliers de contenus sur X et plusieurs procédures judiciaires ou administratives ont été ouvertes dans le monde, notamment en France.

Le procureur général de Californie a annoncé mercredi lancer sa propre enquête "afin de déterminer si, et comment, xAI a violé la loi".

"J'exhorte xAI à prendre des mesures immédiates pour que cela ne se reproduise plus", a déclaré le procureur Rob Bonta, un élu démocrate hostile aux velléités de l'administration Trump d'empêcher la régulation de l'IA.

Le procureur, qui brigue sa réélection en novembre pour un second mandat, défend "une tolérance zéro pour la création et la diffusion par l'IA d'images intimes non consenties ou de matériel pédopornographique".

Elon Musk, qui s'exprime tous les jours sur X, dénonce régulièrement les mesures de régulation des gouvernements, qui veulent "supprimer la liberté d'expression".

Affichant sa volonté d'offrir une intelligence artificielle "antiwoke", libérée du politiquement correct, il renvoie la responsabilité sur les utilisateurs.

"Le principe de fonctionnement de Grok est de respecter les lois de chaque pays et chaque Etat", a écrit mercredi le multimilliardaire sur X. "Il peut arriver que des tentatives de piratage malveillant entraînent un comportement inattendu. Le cas échéant, nous corrigeons le bug immédiatement", a-t-il assuré.

De leur côté, 28 ONG ont signé mercredi l'appel de l'association féministe Ultraviolet pour que Google et Apple retirent Grok et X de leurs boutiques d'applications.

X. Teixeira--JDB