Openai conteste intensément une directive par cour de Court américaine qui oblige la préservation de tous les journaux des utilisateurs de Chatgpt, une exigence que la société a caractérisée comme un «cauchemar de confidentialité». Cette ordonnance, provenant d’un procès pour violation des droits d’auteur par les organisations de presse, oblige OpenAI à conserver même les conversations que les utilisateurs ont été supprimées et les données sensibles de ses clients commerciaux API.
OpenAI plaident que cette directive met en danger la confidentialité de sa vaste base d’utilisateurs et a été enracinée sans opportunité adéquate pour l’Openai pour contrer les termes des «accusations non fondées» de preuves destrucd. L’objection d’Openai, comme indiqué dans A Court Fileling (via ARS Technica ), est que l’ordre ne sous-mine ses articulations concernant le privilège de l’utilisateur et la commande des données. L’entreprise a exprimé ses préoccupations sur le fait que la conservation de tous les journaux de discussion-les services de SPANST CHATGPT, plus, PRO et API-pourrait éroder la confiance des utilisateurs et potentiellement entraîner des violations des contrats et des lois mondiales de confidentialité. Par conséquent, Openai cherche de toute urgence à annuler l’ordre «radical et sans précédent», citant non seulement des problèmes de confidentialité profonds, mais aussi les charges opérationnelles et les coûts opérationnels impliqués.
Son mémorandum a fait valoir que la théorie des plaignants manque de soutien, car ils”n’ont pas proposé un seul élément de preuve à l’appui”. La société a en outre déclaré: «Ils n’ont identifié aucune preuve que quelqu’un (autre que les plaignants eux-mêmes) a tenté d’obtenir son contenu à partir de Chatgpt». La société soutient également que les données préservées ne seraient probablement pas utiles pour le cas.
Les données des utilisateurs et les engagements de confidentialité sous contrôle
Openai soulignent que les individus utilisent Chatgpt pour diverses activités, avec des interactions souvent «allant du monnaie à profondément personnel». Les politiques de confidentialité établies de la société, qui affirment que l’ordonnance du tribunal a effectivement «abandonné», a précédemment permis aux utilisateurs de se retirer de la rétention des données, d’effacer manuellement des dialogues spécifiques ou d’employer des chats temporaires conçus pour disparaître.
L’ordre actuel oblige désormais OpenAI pour conserver ces données indépendamment des préférences des utilisateurs. Cette situation aurait déclenché une alarme parmi les utilisateurs. Certains professionnels de la technologie sur des plateformes comme LinkedIn et X ont qualifié la rétention obligatoire de «violation grave de contrat pour chaque entreprise qui utilise Openai» et «un risque de sécurité inacceptable», selon les soumissions du tribunal d’Openai. La Société soutient que le tribunal n’a pas suffisamment pris en compte ces préoccupations des utilisateurs avant d’émettre la directive de préservation.
Le juge Wang, cependant, justifiait en partie la portée étendue de l’ordonnance en raison de l’affirmation des organisations de presse selon laquelle «le volume de conversations supprimées est significatif. Elle avait nié une tentative antérieure d’OpenAI pour inverser sa commande le 29 mai, tout en assurant à l’entreprise que les données des utilisateurs ne seraient pas rendues publiques. OpenAI continue de faire pression sur son affaire, exhortant maintenant le juge Sidney H. Stein à annuler la décision du juge Wang.
Les pratiques de données évolutives et les réponses de sécurité antérieures
Le différend juridique en cours souligne la nature complexe de la gestion des données à l’ère génératrice de l’IA. OpenAI a progressivement mis à jour ses fonctionnalités concernant la persistance des données, notamment avec la fonction de mémoire ChatGpt.
Cette fonctionnalité, étendue à plus d’abonnés en mai 2024, permet au chatbot de se souvenir des détails des conversations antérieures pour des interactions plus personnalisées, bien que les utilisateurs conservent le contrôle et puissent le désactiver. Plus récemment, vers le 16 avril, OpenAI a intégré cette capacité de mémoire aux fonctions de recherche Web, permettant au contexte conversationnel passé pour affiner les requêtes de recherche en ligne.
Historiquement, OpenAI a également agi pour protéger les données utilisateur. Par exemple, en juillet 2024, la société a implémenté le chiffrement de son application ChatGPT MacOS après la découverte d’un défaut de sécurité qui avait laissé des conversations utilisateur en texte brut. À ce stade, le porte-parole d’OpenAI, Taya Christianson, a affirmé le dévouement de la société aux mesures de sécurité strictes.
Le contexte de l’industrie plus large et les arguments juridiques
L’ordre actuel du tribunal, cependant, introduit un défi distinct, passant de vulnérabilités spécifiques à un mandat complet de conservation des données. La Société soutient également que l’inclusion des données des clients de l’entreprise API est illogique, car ces données sont généralement régies par des politiques de rétention standard qui ne sont pas facilement modifiables par les utilisateurs finaux des applications de ces entreprises. Le procès nomme également Microsoft en tant que co-défendeur.
Les plaignants ont fait valoir que l’ordre de préservation est crucial pour contrer la défense d’Openai selon laquelle ses modèles d’IA sont rarement utilisés par les clients pour enfreindre les droits d’auteur. Les compteurs d’Openai que l’ordre du juge Wang «oblige à l’Openai pour annuler le contrôle des utilisateurs sur le moment où et comment leurs données de conversation Chatgpt sont utilisées et conservées».
La société a souligné que le préjudice à sa réputation et les utilisateurs l’emportent sur tout bénéfice «spéculatif» », disant« l’ordre dans l’essence nous oblige à conserver les données qui ont explicitement choisi de supprimer ». L’ordonnance de préservation actuelle nécessiterait des mois de travail d’ingénierie et entraînerait des coûts substantiels. La société a confirmé son engagement à continuer de s’opposer à l’ordre de protéger les intérêts de ses utilisateurs, affirmant que l’exigence spéculative des plaignants pour les données ne justifie pas le détriment potentiel de la confidentialité des utilisateurs et de la stabilité opérationnelle d’Openai.
