L’application Grok xAI, vivement critiquée pour sa capacité à générer des images « dénudant » les utilisateurs via des prompts, a finalement bloqué cette fonctionnalité. Cette décision intervient après une vague de protestations et des blocages dans deux pays, l’Indonésie et la Malaisie. Voici ce qu’il faut retenir de cette polémique autour de Grok xAI.
Une fonctionnalité source de polémique
Depuis quelques jours, Grok xAI était au cœur d’une controverse mondiale. Des utilisatrices ont dénoncé l’utilisation de prompts pour transformer leurs photos en images les représentant en sous-vêtements ou en maillot, sans leur consentement. « Des milliers de femmes ont exprimé leur indignation sur les réseaux sociaux », rapportent des médias internationaux.
La situation s’est aggravée en Californie, où des accusations graves ont visé l’application. « Certains utilisateurs auraient utilisé Grok xAI pour générer des images de mineurs dénudés », selon des sources locales. Elon Musk, propriétaire de xAI, a réagi en niant toute connaissance de tels cas. « Les images générées dépendent des prompts saisis par les utilisateurs », a-t-il précisé, soulignant la responsabilité individuelle des utilisateurs.
Des réactions internationales et des blocages
Face à l’ampleur des critiques, l’Indonésie et la Malaisie ont décidé de bloquer l’accès à Grok xAI sur leur territoire. « Ces pays ont jugé la fonctionnalité contraire à leurs lois sur la protection des données et la dignité humaine », expliquent des observateurs.
En France et en Belgique, des élus ont également exprimé leur indignation. « Plusieurs outils d’IA permettent des abus similaires, mais Grok xAI a été pointé du doigt pour sa facilité d’utilisation », note un rapport parlementaire. Des publicités pour des applications similaires, diffusées sur Facebook en Belgique, ont également suscité l’inquiétude des autorités.
Grok xAI : quelles suites pour la régulation des IA ?
Le blocage des prompts controversés par xAI marque un tournant dans la régulation des outils d’intelligence artificielle. « Cette affaire souligne l’urgence de cadre légaux plus stricts », estiment des experts en cybersécurité. Des discussions sont en cours en Europe et aux États-Unis pour encadrer l’utilisation des IA génératives et protéger les utilisateurs contre les abus.
Elon Musk a rappelé que Grok xAI reste un outil en développement. « Nous travaillons à améliorer les garde-fous pour éviter tout détournement », a-t-il déclaré. Cependant, cette polémique relance le débat sur l’éthique et les limites des technologies d’IA, notamment en matière de respect de la vie privée et de protection des mineurs.
