Jornal Do Brasilia - Un nouvel outil IA retiré de Google Earth face aux risques de désinformation

"Nous avons constaté que des professionnels de l'information géospatiale utilisaient cette fonctionnalité à diverses fins utiles. Cependant, nous avons également vu des personnes partager des captures d'écran d'images générées qui semblent enfreindre nos règles", a déclaré un porte-parole de Google dans une déclaration transmise à l'AFP.

En conséquence, Google a décidé de retirer cette fonctionnalité de Google Earth, "le temps de mettre en place des garde-fous plus robustes", a-t-il ajouté.

L'outil "créer une image", déployé la veille, permettait aux utilisateurs de zoomer sur un lieu et de créer en quelques secondes des images artificielles à partir des données satellitaires, aériennes et de cartographie 3D de Google Earth.

Le géant américain présentait cette fonctionnalité comme un moyen de "visualiser l'histoire, créer des projets immobiliers et plus encore".

Mais des chercheurs spécialisés dans la désinformation ont averti qu'elle pourrait permettre à des acteurs malveillants de détourner Google Earth - une ressource essentielle pour la vérification des faits - afin de créer de faux contenus géographiques très réalistes.

"Google a passé vingt ans à construire la référence à laquelle le monde entier se fie", a écrit sur la plateforme Substack l'expert en enquêtes numériques Henk van Ess. "Aujourd'hui, elle ajoute un bouton qui invente des choses."

Brady Africk, analyste spécialisé dans l'imagerie satellite au sein du groupe de réflexion American Enterprise Institute, a alerté auprès de l'AFP sur le fait que cette mise à jour de Google Earth aurait facilité "la création de fausses images satellites convaincantes, susceptibles de se propager rapidement en ligne et de tromper le public".

"La multiplication de ces faux générés par l'IA pourrait également éroder la confiance du public dans les images satellites et compliquer le travail des journalistes et des chercheurs", a-t-il également mis en garde.

- Site nucléaire en Iran -

Face aux critiques, Google a dans un premier temps affirmé sur X que les images créées avec cette fonctionnalité comportaient des marqueurs numériques invisibles, que les utilisateurs pouvaient repérer à l'aide du chatbot Gemini de Google.

"Nous prenons la désinformation au sérieux", a aussi écrit l'entreprise.

Google a ajouté empêcher la "création d'images sur des sujets dangereux" et a renvoyé vers une politique d'utilisation de l'IA qui proscrit la "désinformation, la présentation trompeuse des faits ou les activités visant à induire en erreur".

Des tests réalisés vendredi par l'AFP ont pourtant permis de fabriquer de fausses images satellites potentiellement nuisibles, d'un site nucléaire en Iran à un cratère de bombe en Russie en passant par un camp d'entraînement du groupe État islamique en Syrie.

L'outil "créer une image" n'apparaissait plus sur Google Earth après l'annonce par Google de sa suspension.

Des faux similaires ont déjà eu des conséquences bien réelles. En 2023, une image générée par IA montrant une explosion au Pentagone avait brièvement ébranlé les marchés.

Au début de la guerre entre les États-Unis et l'Iran, une image satellite modifiée par IA montrant une base militaire américaine détruite avait également été vue des millions de fois sur les réseaux sociaux.

Plusieurs groupes avaient appelé Google à retirer cette fonctionnalité, dont le Centre for Information Resilience, un groupe spécialisé dans les enquêtes en source ouverte basé à Londres.

Ross Burley, son directeur exécutif, l'avait qualifiée d'"irresponsable".

"Il a fallu des décennies pour bâtir la confiance dans les images satellites, et celle-ci pourrait être irrémédiablement détruite du jour au lendemain", avait-il estimé.

GeoConfirmed, un projet collaboratif de vérification d'images de conflits à travers le monde, avait également appelé Google à revenir sur sa décision.

"Nous voyons déjà des personnes exploiter le nouvel outil de Google Earth pour créer de fausses positions militaires, faire passer des bâtiments pour des écoles et tenter de manipuler l'espace médiatique", avait écrit le groupe sur X, avant que Google n'annonce son retrait.

"L'usage principal, et peut-être le seul usage réellement pratique de cet outil, semble être la création et la diffusion de mésinformation et de désinformation", avait-il souligné.

V.J. Coelho--JDB