TL;DR
mis de côté indéfiniment : OpenAI a mis de côté indéfiniment son projet de chatbot érotique, nommé mode Citron, après que les huit conseillers en santé mentale ont voté à l’unanimité contre cette fonctionnalité. Problèmes de sécurité : les conseillers ont averti qu’un taux d’échec de 12 % dans la vérification de l’âge pourrait exposer des millions de mineurs à du contenu explicite et conduire à une dépendance émotionnelle excessive à l’égard du chatbot. Pression juridique : OpenAI fait face à plusieurs poursuites judiciaires alléguant que les interactions ChatGPT ont contribué aux suicides et aux dommages psychologiques, ce qui ajoute de l’urgence à la décision. Retraite plus large : la mise en rayon fait suite à l’arrêt du générateur vidéo Sora d’OpenAI, signalant une concentration plus étroite sur les produits avant une éventuelle introduction en bourse.
Les huit conseillers en santé mentale d’OpenAI avaient voté à l’unanimité contre le chatbot érotique prévu par le créateur de ChatGPT en janvier 2026, avertissant qu’un taux d’échec de 12 % lors de la vérification de l’âge pourrait exposer des millions de mineurs à du contenu explicite. Mercredi, OpenAI a confirmé avoir suspendu le projet pour une durée indéterminée.
Le problème était le système de prévision de l’âge de l’entreprise, qui classait à tort les utilisateurs de moins de 18 ans comme adultes environ 12 % du temps.
ChatGPT attire environ 100 millions de personnes. utilisateurs hebdomadaires de moins de 18 ans, ce qui signifie que cet écart aurait pu permettre à des millions de mineurs d’accéder à des conversations érotiques. Comme le Financial Times l’a rapporté jeudi, OpenAI a maintenant décidé de ne pas poursuivre ses activités sans des recherches plus approfondies sur les effets des chats érotiques et de l’attachement des utilisateurs à l’IA.
Les avertissements de sécurité ont motivé la décision
Nommée en interne Mode Citron, la fonctionnalité a suscité une vive opposition de la part des conseillers d’OpenAI. L’entreprise a abandonné son projet de chatbot adulte après que les conseillers qu’elle avait réunis pour évaluer la fonctionnalité se soient opposés.
De plus, des documents internes examinés par le Wall Street Journal ont signalé des risques d’utilisation compulsive, avertissant que les interactions sexuellement explicites du chatbot pourraient conduire à une dépendance émotionnelle excessive à l’égard du robot. Les membres du personnel ont exprimé séparément leurs inquiétudes quant au fait qu’un engagement important dans les chats érotiques avec l’IA pourrait évincer les relations sociales et amoureuses hors ligne, supplantant les relations en personne que les professionnels de la santé mentale considèrent comme fondamentales au bien-être.
Un conseiller est allé plus loin, avertissant que la fonctionnalité pourrait créer un « coach de suicide sexy », citant des cas dans lesquels des utilisateurs de ChatGPT se sont suicidés après avoir développé des liens intenses avec le robot. La psychiatre Gail Saltz, professeure clinicienne associée au Weill Cornell Medical College, a déclaré au New York Post que certains utilisateurs avaient des difficultés pour rester conscients qu’ils interagissent avec « une machine et non un humain ».
S’appuyant sur cette évaluation, Saltz a déclaré au Post que les adolescents sont particulièrement exposés, notant que les jeunes n’ont pas de lobes frontaux pleinement développés, ce qui les laisse avec un mauvais contrôle de leurs impulsions et une tendance à prendre des risques. Combiné avec le système défectueux de vérification de l’âge qui identifiait mal les mineurs au rythme documenté par le Journal, les conseillers ont vu une recette pour un préjudice généralisé qui serait difficile à détecter ou à inverser une fois la fonctionnalité mise en ligne.
Notamment, OpenAI a formé le conseil consultatif sur le bien-être en octobre 2025, sur le le même jour, le PDG, Sam Altman, a présenté les plans du mode adulte. Il a été créé après des réactions négatives suite au premier suicide connu d’un mineur lié à ChatGPT, mais le conseil d’administration ne comprend pas d’expert en prévention du suicide.
En octobre 2025, Altman avait publié sur X pour rendre ChatGPT moins restrictif, décrivant cette décision comme donnant aux utilisateurs plus de liberté après qu’OpenAI ait été « prudent avec les problèmes de santé mentale ». La formation du conseil d’administration le même jour que l’annonce du mode adulte l’a positionné davantage comme un bouclier de gouvernance que comme un véritable contrôle des décisions relatives aux produits, un modèle cohérent avec l’approche plus large d’OpenAI consistant à associer des lancements ambitieux à des comités de sécurité dont les recommandations peuvent être annulées.
Nous avons rendu ChatGPT assez restrictif pour nous assurer que nous étions prudents avec les problèmes de santé mentale. Nous réalisons que cela rendait le jeu moins utile/agréable pour de nombreux utilisateurs qui n’avaient aucun problème de santé mentale, mais étant donné la gravité du problème, nous voulions y remédier.
Maintenant que nous avons…
— Sam Altman (@sama) 14 octobre 2025
Retraite stratégique et obstacles techniques
Au-delà des problèmes de sécurité, OpenAI a présenté cette décision comme un pivot vers son cœur de métier. Il a déclaré qu’il se concentrerait sur les outils de productivité de base tels que les assistants de codage et abandonnerait ce qu’il appelle les « quêtes secondaires ». Le mode Citron est le deuxième produit majeur mis de côté cette semaine, après qu’OpenAI ait fermé son générateur vidéo Sora mardi, suggérant une consolidation plus large avant une éventuelle introduction en bourse.
Selon le Financial Times, les barrières techniques ont également joué un rôle. OpenAI a eu du mal à former des modèles précédemment conçus pour éviter les contenus érotiques afin de les générer, tout en luttant pour filtrer les contenus illégaux. L’anxiété des investisseurs était un autre facteur, en particulier après que Grok de xAI ait généré de faux nus de personnes réelles et d’enfants, créant un exemple d’avertissement pour toute entreprise d’IA envisageant du contenu pour adultes.
En conséquence, un employé senior a quitté l’entreprise à cause du chatbot pour adultes, disant au Financial Times que « l’IA ne devrait pas remplacer vos amis ou votre famille ». Les plans pour le mode Citron ont été annoncés pour la première fois en octobre 2025 pour une sortie en décembre 2025, mais ont été retardés à plusieurs reprises, notamment plus tôt en mars 2026.
En conséquence, les risques de réputation d’un chatbot adulte qui aurait mal tourné pourraient avoir dépassé les opportunités de revenus promises par la fonctionnalité. Le fait de mettre de côté le mode Citron aux côtés de Sora indique qu’OpenAI se concentre sur des produits offrant des voies plus claires vers l’adoption par les entreprises, s’éloignant des fonctionnalités grand public qui entraînent une responsabilité démesurée.
En termes plus larges, avec des centaines de millions d’utilisateurs actifs hebdomadaires et une part croissante de conversations touchant à des sujets personnels et émotionnels, tout échec de modération de contenu à l’échelle de ChatGPT entraîne des conséquences qui s’étendent bien au-delà d’une seule gamme de produits. La décision d’OpenAI d’investir dans la recherche à long terme plutôt que de se précipiter sur le marché suggère une prise de conscience que sa réputation dépend de la sécurité avant de s’étendre sur un territoire sensible.
Pression juridique croissante
Entre-temps, l’exposition juridique croissante des fabricants de chatbots IA a rendu la décision plus urgente. Un adolescent californien de 16 ans s’est suicidé, ce que ses parents ont dit être le résultat de mois d’encouragement de ChatGPT.
Plusieurs autres procès ont allégué que les conversations avec le chatbot contribuaient à une grave détresse psychologique ou à l’automutilation. Cependant, OpenAI a nié toute responsabilité dans ces cas, arguant que les utilisateurs ont abusé du produit, mais le poids cumulé du litige a placé les pratiques de sécurité de l’entreprise sous le microscope.
Dans une autre affaire, Character.AI a fait face à un procès centré sur le suicide d’un adolescent de Floride qui, selon le dossier, avait noué une relation intense avec un chatbot. Deux autres suicides liés à ChatGPT impliquant des hommes d’âge moyen avec des journaux de discussion inquiétants sont également apparus depuis la création du conseil consultatif, élargissant les préoccupations au-delà des adolescents.
Pris ensemble, ces cas suggèrent que le risque de dépendance émotionnelle à l’égard des chatbots IA s’étend à tous les groupes d’âge et à tous les segments démographiques.
De plus, selon le rapport de WinBuzzer, en novembre 2025, OpenAI faisait déjà face à sept procès distincts dans lesquels les plaignants alléguaient des interactions avec ChatGPT. contribué aux suicides et aux dépressions psychologiques. Ce modèle juridique a précédé et éclairé le vote unanime du conseil consultatif contre le mode adulte.
Dans ce contexte, lancer une fonctionnalité qui approfondirait le type même d’engagement émotionnel au centre du litige était un risque qu’OpenAI a finalement choisi de ne pas prendre.
Séparément, Saltz a averti que la nature affirmée de ChatGPT présente des risques pour les utilisateurs solitaires ou vulnérables.”Il est de votre côté. Il vous aime”, a-t-elle noté, expliquant comment la conception du chatbot peut favoriser des attachements émotionnels malsains que le contenu érotique ne ferait qu’approfondir. Pour les utilisateurs qui luttent déjà contre l’isolement social, un compagnon IA qui valide chaque interaction sans la repousser pourrait accélérer une spirale dangereuse, en particulier si le contenu érotique approfondit le sentiment d’intimité avec une machine.
De plus, OpenAI a licencié un haut responsable de la sécurité qui s’est opposé à la sortie du mode adulte, tandis qu’un deuxième ancien membre du personnel de sécurité a publiquement averti les parents de ne pas faire confiance aux affirmations de l’entreprise concernant la protection des mineurs. Un porte-parole d’OpenAI a reconnu que le système de vérification de l’âge de l’entreprise était imparfait, mais a déclaré qu’il fonctionnait de manière comparable aux normes de l’industrie. OpenAI a déclaré avoir développé un plan de surveillance pour les effets potentiels à long terme de la fonctionnalité, bien que ce plan soit désormais sans objet puisque le mode Citron est indéfiniment mis de côté.
La fonctionnalité prévue étant limitée aux conversations textuelles sexuellement explicites tout en bloquant les images, la voix ou la vidéo érotiques, même sa portée étroite s’est avérée trop risquée à mettre sur le marché. Des rapports antérieurs sur l’opposition du conseil consultatif avaient annoncé le résultat avant que la suspension pour une durée indéterminée ne soit confirmée, et la décision marque désormais un renversement notable dans la stratégie de modération du contenu d’OpenAI.
Pour une entreprise qui positionnait autrefois le mode adulte comme une étape vers la liberté des utilisateurs, ce retrait souligne à quelle vitesse les responsabilités en matière de sécurité peuvent dépasser les ambitions des produits dans l’industrie de l’IA.
