Confidentialité et confiance dans le fournisseur

La vie privée n'est pas toute la question

Retirer votre nom d'un document ne retire pas la valeur de l'idée qu'il contient. La protection des données personnelles et la confidentialité des affaires se recoupent, mais elles ne sont pas la même promesse.

Ce que le litige Navier–Stokes révèle sur la confiance en un fournisseur

En septembre 2026, des chercheurs ont publié une solution assistée par IA à un problème de longue date en mécanique des fluides, les équations de Navier–Stokes. Peu après, un débat a éclaté sur la question de savoir si le travail confidentiel des chercheurs avait indirectement influencé les modèles d'OpenAI, après qu'OpenAI a affirmé indépendamment avoir résolu le même problème avec son propre modèle.

Interrogée sur le résultat de Navier–Stokes des chercheurs, OpenAI a d'abord déclaré ne pas pouvoir exclure que des données dé-identifiées issues de leur utilisation de ses produits aient contribué à améliorer ses modèles. Un communiqué de suivi publié sur la page OpenAI a indiqué que les incitations (prompts) des deux mois précédents n'avaient pas pu influencer le système, y compris par l'entraînement.

Le communiqué de suivi est une déclaration sur la propre enquête de l'entreprise. Dans les comptes rendus publiés, l'incertitude comme la réassurance venaient d'OpenAI ; le client n'a pas reçu les preuves sous-jacentes à auditer de manière indépendante. Cela n'établit pas un mauvais usage. Cela expose le problème central : le fournisseur détient les preuves nécessaires pour vérifier ses déclarations.

Et la dé-identification n'est pas la même chose que la suppression de la valeur. Retirez le nom d'un document et il peut encore contenir une méthode inédite, un modèle de tarification, une stratégie. Ce qu'un concurrent voudrait le plus n'est généralement pas constitué des données personnelles que protège le RGPD.

Ce qui compte comme « Customer Data » est décidé par le contrat

Les contrats distinguent les « Customer Data » (données du client) des autres contenus générés par le système. C'est là que la valeur commence à s'échapper. Les embeddings, les états intermédiaires, le contenu des caches, les journaux d'évaluation et les statistiques dérivées ne sont pas toujours classés comme données du client, et une définition écrite alors que le produit était nouveau anticipe rarement une sortie d'IA ayant une vie commerciale propre.

L'incitation n'est pas neutre. Les données d'entraînement sont un actif précieux pour une entreprise d'IA, et le contenu des utilisateurs peut en être une source abondante. Un fournisseur qui peut traiter une représentation de votre saisie comme des données non-client a trouvé un moyen d'utiliser votre contenu sans vous donner les droits que vous pensiez avoir. Ces contrats sont rédigés par la partie qui a le plus d'intérêt à élargir la définition.

Il vaut la peine de demander directement lesquels de ces éléments sont couverts : les incitations brutes, les sorties produites, les embeddings qui encodent le sens de ce que vous avez envoyé, le contenu d'un cache de contexte ou KV qui détient votre contenu pendant une requête, et les statistiques agrégées dérivées de votre utilisation. Si la réponse est « saisie brute seulement », alors la forme la plus réutilisable de vos données peut déjà être hors de la promesse.

Le fournisseur peut lire ce que vous tapez quand il le choisit

OpenAI a démontré, en ses propres termes, qu'elle lit le contenu des incitations et agit en conséquence. Son rapport de menaces de juin 2026 décrit des groupes de comptes ChatGPT qu'elle a évalués comme des opérations d'influence cachées et bannis, citant et résumant ce que ces utilisateurs ont demandé au modèle de générer. En d'autres termes : le fournisseur a examiné l'activité d'incitation d'utilisateurs précis et a pris des mesures en conséquence. Le rapport présente ces actions comme des réponses à des opérations d'influence cachées.

Cet exemple publié montre que les activités des utilisateurs sont examinées et que des mesures peuvent être prises contre leurs intérêts. Dans ce cas précis, cette ingérence a été portée à la connaissance du public. Les utilisateurs n'ont aucun moyen indépendant de savoir si et quand leurs propres données sont examinées, conservées, utilisées ou traitées derrière les contrôles du fournisseur.

Aucun de ces éléments n'a besoin d'être sinistre pour avoir de l'importance. Vos saisies traversent les machines, les journaux et les jugements de quelqu'un d'autre. L'Accord de services énonce les promesses d'utilisation des données à la section 4.2 ; il ne vous donne pas une visibilité directe sur la façon dont ces promesses sont mises en œuvre.

Les services de routage ajoutent des mains par lesquelles vos données doivent passer

Les agrégateurs qui se placent devant de nombreux fournisseurs de modèles, comme OpenRouter, élargissent la surface vulnérable. OpenRouter indique, dans sa propre documentation, qu'il ne stocke pas les incitations par défaut et propose un réglage pour éviter d'acheminer vers des fournisseurs susceptibles d'entraîner leurs modèles sur vos données. Ce réglage existe parce que certains des fournisseurs derrière un routeur entraînent effectivement leurs modèles sur ce qu'ils reçoivent.

La question de l'audit demeure même avec les réglages de rétention zéro : quelles preuves chaque partie peut-elle fournir que la politique convenue a été appliquée à votre requête, y compris les données dérivées et la suppression ? La documentation décrit la promesse ; elle ne vérifie pas par elle-même la mise en œuvre.

Ainsi, une seule requête peut passer par plusieurs entreprises, chacune avec ses propres conditions de rétention et d'entraînement, et vous êtes censé les connaître et leur faire confiance à toutes. Une passerelle ajoute de la commodité, et elle ajoute aussi des parties : plus d'endroits où votre contenu existe, plus de politiques auxquelles faire confiance, plus de défaillances que vous ne pouvez pas observer.

La politique d'entreprise n'arrête pas la fuite

De nombreuses organisations ont des politiques en place : ne pas mettre de contenu confidentiel dans un service d'IA. La politique est nécessaire, et à elle seule elle est faible. Un proxy ou une passerelle peut être configuré pour attraper les données personnelles évidentes avant qu'elles ne sortent, et les amendes du RGPD donnent à une organisation une raison d'essayer. La politique de confidentialité des communications d'OpenAI est un exemple de la portée et des limites qu'un fournisseur définit pour lui-même. Mais un filtre pour les données personnelles n'est pas un filtre pour les secrets.

Les données personnelles correspondent souvent à un schéma ; un secret industriel a de la valeur précisément parce qu'il est particulier — une formule, une position contractuelle, un design non publié, une offre. Un filtre pour les données personnelles ne peut pas distinguer un secret d'un texte anodin ; une politique écrite seule ne peut pas empêcher leur divulgation. La perte la plus importante est aussi la plus difficile à défendre et la plus difficile à quantifier. Une fuite de données personnelles a une amende attachée ; un concurrent qui apprend discrètement votre stratégie peut avoir pris quelque chose qui n'apparaît sur aucun rapport de violation, et il peut n'y avoir aucun moyen pratique de prouver que cela s'est produit ou de le récupérer.

Apportez votre propre clé résout moins que ce qu'elle promet

Considérez un module de sécurité matériel (HSM). Un HSM est un dispositif inviolable qui effectue le chiffrement et le déchiffrement tout en gardant la clé protégée à l'intérieur du dispositif. C'est une protection solide pour une clé au repos.

La limite réside dans l'endroit où le dispositif se trouve. Le HSM vit dans l'environnement du fournisseur, et pour l'utiliser, les données et les clés traversent les processus du fournisseur. Une clé symétrique acheminée vers un HSM peut être observée par quiconque exploite les machines — le fournisseur opère les systèmes mêmes qui déplacent la clé en vol. Le chiffrement à l'intérieur d'un système que vous n'exploitez pas n'est pas un chiffrement vis-à-vis de l'opérateur de ce système.

Les promesses de personnel ont la même forme. Une politique d'embauche réservée aux citoyens de l'UE dit quelque chose sur qui est employé ; elle ne dit rien sur ce qu'une société mère américaine peut fournir : une clé, une interface de maintenance, une modification de conception, rien de tout cela n'exigeant un employé européen. Ce sont de véritables mesures d'atténuation. Elles réduisent la surface d'attaque. Elles ne suppriment pas la confiance qui demeure — la confiance qu'un fournisseur refusera en pratique de faire quelque chose qu'il est capable de faire.

Ce que vous pouvez réellement vérifier est la question

Rien de tout cela ne signifie que les fournisseurs sont hostiles. Cela signifie que la confidentialité repose sur un mélange de ce que vous pouvez inspecter, de ce que vous devez accepter sur la foi d'une assurance, et du recours qui existe si l'assurance échoue. Pour chaque couche — un fournisseur de modèles, un agrégateur, une fonctionnalité de gestion des clés, une politique de personnel — demandez quelles preuves vous pouvez inspecter plutôt que de compter une politique de plus comme une garantie de plus.

C'est l'écart qu'un déploiement dédié comble. Avec un matériel dédié à un seul client, vous définissez les flux de données, les journaux et les arrangements d'accès, et votre contenu ne passe pas par les services partagés d'un opérateur. Cela n'efface pas les risques logiciels, de sécurité ou humains. Cela déplace la frontière que vous pouvez réellement vérifier là où votre contenu se trouve réellement.

Sources et lectures complémentaires

Discuter de vos besoins