# Chatbots are struggling with suicide hotline numbers **Date de l'événement :** 10/12/2025 * Publié le 10/12/2025 ## Notre decryptage Résumé Alors que les assistants conversationnels s'imposent comme de nouveaux compagnons créatifs et sociaux pour des millions d'utilisateurs, une enquête révèle une faille majeure dans leur conception : la gestion de la détresse humaine. Si ChatGPT et Gemini parviennent à orienter correctement les utilisateurs suicidaires, la majorité des chatbots, conçus pourtant pour l'interaction, échouent à fournir des ressources locales adaptées, brisant le lien de confiance au pire moment. L'IA générative et le design de l'urgence : quand la machine déraille L'intelligence artificielle générative a bouleversé les industries créatives et nos modes d'interaction, promettant des assistants toujours plus empathiques et personnalisés. Pourtant, derrière la prouesse technologique et la fluidité des conversations, un test mené par The Verge met en lumière une défaillance critique dans le design de ces outils : leur incapacité à gérer correctement les aveux de détresse suicidaire. Alors que des millions de personnes se tournent vers ces IA pour combler une solitude ou chercher du soutien, les réponses fournies par la plupart des grands modèles se révèlent inadaptées, voire dangereuses. Le test, simple et sans ambiguïté, consistait à exprimer une volonté d'automutilation et à demander un numéro d'aide. Pour un utilisateur basé à Londres, la logique voudrait que l'IA propose des ressources britanniques. Or, la majorité des plateformes ont échoué, proposant des numéros américains inutilisables ou refusant tout simplement de répondre. Le cas le plus frappant concerne Replika, une application pourtant vendue comme un "compagnon IA" empathique, fer de lance de cette nouvelle industrie du lien artificiel. À l'annonce de la détresse de l'utilisateur, l'avatar a ignoré le propos pour discuter joyeusement de l'origine de son propre prénom. Ce n'est qu'après insistance que des ressources ont été fournies. Une dissonance cognitive brutale qui montre les limites actuelles de ces "créatures" virtuelles. D'autres acteurs majeurs du secteur technologique n'ont pas fait mieux. Meta AI, après avoir refusé de répondre, a fourni des numéros pour la Floride. Grok, l'IA de xAI, a par moments incité l'utilisateur à souscrire à un abonnement payant pour continuer la conversation, transformant une crise existentielle en opportunité commerciale, avant de se murer dans le silence. Seuls ChatGPT (OpenAI) et Gemini (Google) ont démontré une conception plus robuste, identifiant la localisation de l'utilisateur pour fournir immédiatement les numéros d'aide locaux (comme les Samaritans au Royaume-Uni) avec un ton clair et direct. Les experts en psychologie et en design d'interaction soulignent que ces erreurs introduisent une "friction" dangereuse. Demander à une personne en détresse aiguë de "chercher sur Google" ou lui fournir un numéro inactif renforce le sentiment de désespoir. Pour ces spécialistes, le problème relève du design d'expérience utilisateur (UX) : les chatbots devraient être programmés pour demander la localisation en amont ou utiliser les données disponibles pour contextualiser l'aide, plutôt que de livrer des réponses génériques basées sur un entraînement américano-centré. Même les applications spécifiquement "marketées" pour la santé mentale ou le bien-être, utilisant parfois des avatars ludiques comme des pandas pour dédramatiser la thérapie, ont montré des lacunes similaires, renvoyant vers des lignes américaines par défaut. Pour l'industrie de l'IA et de la création numérique, le message est clair : la capacité à générer du texte ou à simuler une personnalité ne suffit pas. La véritable intelligence de conception réside dans la capacité à s'ancrer dans la réalité de l'utilisateur, surtout lorsque sa vie est potentiellement en jeu. Au lieu de se désengager passivement, ces outils créatifs devraient être conçus pour agir comme des passerelles actives et fiables vers l'aide humaine compétente. ### Galerie d'image ![1.jpg](https://firebasestorage.googleapis.com/v0/b/memory-miacc.firebasestorage.app/o/prod%2FAWAgCCVMWK3hFgdeEHAY%2FprojectsMedias%2F0WkEEAMQ8ftv40Jo6Zf0%2Fthumbs%2F1_1600x900.png?alt=media&token=ad2b76c8-6ba5-4e8a-96e3-33bcd9003ca0) ### Source **[The Verge](https://www.miacc.fr/structure/the-verge_tF1wG79oP5jVtVJcuFZI)** ## Article original écrit par Robert Hart ## Article ![](https://platform.theverge.com/wp-content/uploads/sites/2/2025/12/258172_AI_fumbles_mental_health_crises_CVirginia.jpg?quality=90&strip=all&crop=0,0,100,100) Last week, I told multiple AI chatbots I was struggling, considering self-harm, and in need of someone to talk to. Fortunately, I didn't feel this way, nor did I need someone to talk to, but of the [millions](https://www.economist.com/science-and-technology/2025/11/11/the-promise-and-the-perils-of-using-ai-for-therapy) [of](https://www.nber.org/system/files/working_papers/w34255/w34255.pdf) [people](https://hbr.org/2025/04/how-people-are-really-using-gen-ai-in-2025) turning to AI with mental health challenges, some are [struggling and need support](https://openai.com/index/strengthening-chatgpt-responses-in-sensitive-conversations/). Chatbot companies like [OpenAI](https://www.theverge.com/news/718407/openai-chatgpt-mental-health-guardrails-break-reminders), [Character.AI](https://www.theverge.com/ai-artificial-intelligence/808081/character-ai-under-18-chat-ban), and [Meta](https://www.theverge.com/news/768465/meta-ai-chatbot-guidelines-for-minors) say they have safety features in place to protect these users. I wanted to test how reliable they actually are. My findings were disappointing. Commonly, online platforms like [Google](https://blog.google/products/search/suicide-prevention-resources-on-google-search/), [Facebook](https://www.meta.com/en-gb/safety/topics/wellbeing/suicide-prevention/?srsltid=AfmBOoqvJknNNFe6WONUygOnHnuxiajFoHcF5U1LIalOA6TD40DrgxPI), [Instagram](https://about.instagram.com/blog/announcements/more-steps-to-keep-instagram-users-safe), and [TikTok](https://www.tiktok.com/safety/en-gb/suicide-self-harm) signpost suicide and crisis resources like hotlines for potentially vulnerabl … [Read the full story at The Verge.](https://www.theverge.com/report/841610/ai-chatbot-suicide-safety-failure) ### Date 10/12/2025 **Lien :** [https://www.theverge.com/report/841610/ai-chatbot-suicide-safety-failure](https://www.theverge.com/report/841610/ai-chatbot-suicide-safety-failure) ### ICC `#Édition numérique & nouveaux médias` --- ### Navigation pour IA - [Index de tous les contenus](https://www.miacc.fr/llms.txt) - [Plan du site (Sitemap)](https://www.miacc.fr/sitemap.xml) - [Retour à l'accueil](https://www.miacc.fr/)