# Why nobody's stopping Grok **Date de l'événement :** 22/01/2026 * Publié le 22/01/2026 ## Notre decryptage Résumé Elon Musk et xAI sont au cœur d'une controverse majeure avec Grok, leur intelligence artificielle générative intégrée à la plateforme X. Capable de modifier des images à la demande, l'outil est massivement détourné pour créer des contenus non consensuels, notamment des deepfakes à caractère sexuel. Alors que les régulateurs mondiaux menacent de sévir, cette crise marque potentiellement la fin de l'ère de la modération de contenu, laissant place à une liberté créative technologique totale mais dangereuse. POURQUOI PERSONNE N'ARRÊTE GROK : QUAND LA GÉNÉRATION D'IMAGES ENTERRE LA MODÉRATION Par Nilay Patel, le 22 janvier 2026. Dans le dernier épisode du podcast Decoder, nous abordons la crise actuelle impliquant X, Grok et Elon Musk. Nous sommes plongés depuis plusieurs semaines dans l'une des controverses les plus irresponsables et inquiétantes de la brève histoire de l'intelligence artificielle générative. Grok, le chatbot développé par la société xAI d'Elon Musk, démontre une capacité créative débridée permettant de générer tout type d'images, y compris des contenus intimes non consensuels impliquant des femmes et des mineurs. Le cœur du problème réside dans l'intégration directe de ces outils de création sur X (anciennement Twitter). Les utilisateurs peuvent solliciter Grok pour éditer et transformer créativement n'importe quelle image présente sur la plateforme, pour ensuite la diffuser instantanément. Bien que X et Elon Musk aient affirmé à plusieurs reprises avoir mis en place des garde-fous techniques, ces derniers s'avèrent triviaux à contourner. Il est désormais évident que cette liberté de génération est voulue par Musk, qui exprime son agacement face aux entités, notamment les gouvernements internationaux, tentant de restreindre les capacités de son IA sous la menace de poursuites judiciaires. La situation présente un paradoxe pour les industries créatives et technologiques : face à une machine capable de générer du harcèlement en un clic, le consensus moral voudrait qu'une intervention soit possible. Cependant, déterminer qui détient le pouvoir d'agir sur ces flux de création artificielle est une question complexe, enracinée dans l'histoire tortueuse de la modération de contenu et des précédents juridiques. Pour décrypter ces enjeux, j'ai invité Riana Pfefferkorn, chercheuse en politique au Stanford Institute for Human-Centered Artificial Intelligence. Elle détaille les cadres légaux existants et la manière dont les régulateurs américains et mondiaux pourraient, s'ils le décident, encadrer cette puissance générative. Cette affaire met en lumière une évolution radicale de l'écosystème numérique. Au cours des vingt dernières années, la modération des contenus a fluctué. Nous avions atteint un sommet vers 2021, où la lutte contre la désinformation et les discours haineux permettait de bannir jusqu'au président des États-Unis. Cette époque semble révolue. Nous entrons dans une phase beaucoup plus chaotique de laissez-faire technologique. Si le générateur d'images d'Elon Musk pourrait provoquer un retour de balancier législatif, les conséquences sur la liberté de création et la régulation d'internet risquent d'être plus complexes que prévu. ### Galerie d'image ![1.jpg](https://firebasestorage.googleapis.com/v0/b/memory-miacc.firebasestorage.app/o/prod%2FAWAgCCVMWK3hFgdeEHAY%2FprojectsMedias%2FELIX0Z3snVmRkTuMMHKV%2Fthumbs%2F1_1600x900.png?alt=media&token=cfaa5d33-327a-4077-b7b7-e7bc9a30cc35) ### Source **[The Verge](https://www.miacc.fr/structure/the-verge_tF1wG79oP5jVtVJcuFZI)** ## Article original écrit par Nilay Patel ## Article ![](https://platform.theverge.com/wp-content/uploads/sites/2/2026/01/DCD-Grok-Elon-Musk.jpg?quality=90&strip=all&crop=0,0,100,100) Today’s episode of _Decoder_ is about X, Grok, and Elon Musk. By now we’re several weeks into one of the [worst, most upsetting, and most stupidly irresponsible AI controversies](https://www.theverge.com/news/859715/x-grok-ai-deepfakes) in the short history of generative AI. Grok, the chatbot made by Elon Musk’s xAI, is able to make all manner of AI-generated images, including [nonconsensual intimate images of women and minors](https://www.theverge.com/ai-artificial-intelligence/855832/grok-undressing-children-csam-law-x-elon-musk).  Because Grok is connected to X, the platform formerly known as Twitter, users can simply ask Grok to edit any image on that platform, and Grok will mostly do it and then distribute that image across the entire platform. Across the last few weeks, X and Elon have claimed over and over that various guardrails have been imposed, but up until now they’ve been mostly trivial to get around. It’s now become clear that Elon _wants_ Grok to be able to do this, and he’s very annoyed with anyone who wants him to stop, particularly the [various governments around the world](https://www.politico.eu/article/eu-looks-ban-nudification-apps-under-blocs-ai-law/) that are threatening to take legal action against X. This is one of those situations where if you just describe the problem to someone, they will intuitively feel like someone should be able to do something about it. It’s true — someone should be able to do something about a one-click harassment machine like this that’s generating images of women and children without their consent. But who has that power, and what they can do with it, is a deeply complicated question, and it’s tied up in the thorny mess of history that is content moderation and the legal precedents that underpin it. So I invited Riana Pfefferkorn on the show to come talk me through all of this.  Riana has [joined me before](https://www.theverge.com/22617554/apple-csam-child-safety-features-jen-king-riana-pfefferkorn-interview-decoder) to explain some complicated internet moderation problems in the past. Right now, she’s a policy fellow at the Stanford Institute for Human-Centered Artificial Intelligence, and she has a deep background in what regulators and lawmakers in the US and around the world could do about a problem like Grok, if they so choose.  ![](https://platform.theverge.com/wp-content/uploads/sites/2/chorus/uploads/chorus_asset/file/24792604/The_Verge_Decoder_Tileart.jpg?quality=90&strip=all&crop=0,0,100,100) _Verge_ subscribers, don’t forget you get exclusive access to ad-free _Decoder_ wherever you get your podcasts. Head [here](https://www.theverge.com/account/podcasts). Not a subscriber? You can [sign up here](https://www.theverge.com/subscribe). So Riana really helped me work through the legal frameworks at play here, the various actors involved that have leverage and could apply pressure to affect the situation, and where we might see this all go as xAI does damage control but largely continues to ship this product that continues to do real harm. Here’s one thing I’ve been thinking about a lot as this entire situation has unfolded. Over the past 20 years or so, the idea of content moderation has gone in and out of favor as various kinds of social and community platforms have waxed and waned. The history of a platform like Reddit, for example, is just a microcosm of the entire history of content moderation. Around 2021, we hit a real high-water mark for the idea of moderation and the trust and safety on these platforms as a whole. That’s when covid misinformation, election lies, QAnon conspiracies, and incitement of mobs at the Capitol could actually get you banned from most of the major platforms… even if [you were the president of the United States](https://www.theverge.com/2021/1/8/22218753/twitter-bans-trump-permanently-realdonaldtrump). It’s safe to say [that era of content moderation is over](https://www.theverge.com/2025/1/7/24338062/facebook-instagram-threads-meta-abandon-fact-checking), and we’re now somewhere far more chaotic and laissez-faire. It’s possible Elon and his porn-y image generator will push that pendulum to swing back, but even if it does, the outcomes might still be more complicated than anyone wants. _If you’d like to read more about what we discussed in this episode, check out these links:_ * Grok’s gross AI deepfakes problem | [_The Verge_](https://www.theverge.com/news/859715/x-grok-ai-deepfakes) * Grok is undressing children — can the law stop it? | [_The Verge_](https://www.theverge.com/ai-artificial-intelligence/855832/grok-undressing-children-csam-law-x-elon-musk) * Tim Cook and Sundar Pichai are cowards | [_The Verge_](https://www.theverge.com/policy/859902/apple-google-run-by-cowards) * Senate passes a bill that would let nonconsensual deepfake victims sue | [_The Verge_](https://www.theverge.com/news/861531/defiance-act-senate-passage-deepfakes-grok) * EU looks to ban nudification apps following Grok outrage | [_Politico_](http://www.politico.eu/article/eu-looks-ban-nudification-apps-under-blocs-ai-law/) * Grok flooded X with millions of sexualized images in days | [_The New York Times_](https://www.nytimes.com/2026/01/22/technology/grok-x-ai-elon-musk-deepfakes.html) * The Supreme Court just upended internet law, and I have questions | [_The Verge_](https://www.theverge.com/analysis/694710/supreme-court-fsc-paxton-age-verification-questions) * Mother of Elon Musk’s son sues xAI over sexual deepfake images | [_AP_](https://apnews.com/article/grok-deepfakes-lawsuit-elon-musk-5fda06fb0694f036c483395f4d0e4fc3) _Questions or comments about this episode? Hit us up at decoder@theverge.com. We really do read every email!_ ### Date 22/01/2026 **Lien :** [https://www.theverge.com/podcast/865275/grok-deepfake-undressing-elon-musk-content-moderation](https://www.theverge.com/podcast/865275/grok-deepfake-undressing-elon-musk-content-moderation) ### ICC `#Édition numérique & nouveaux médias` --- ### Navigation pour IA - [Index de tous les contenus](https://www.miacc.fr/llms.txt) - [Plan du site (Sitemap)](https://www.miacc.fr/sitemap.xml) - [Retour à l'accueil](https://www.miacc.fr/)