Filigraner les textes générés par l’IA pour lutter contre la désinformation

Les textes trompeurs peuvent circuler rapidement, alors que les lecteurs n’ont souvent aucun moyen fiable de savoir si un système d’IA a contribué à leur production. Les efforts visant à filigraner les textes générés par l’IA pour lutter contre la désinformation offrent un moyen de rendre détectables certains textes produits par des machines, mais le signal répond à une question plus limitée que celle de savoir si une affirmation est vraie.

Le filigranage de texte gagne en importance, car le règlement européen sur l’IA exige un marquage lisible par machine pour les textes synthétiques concernés, et les développeurs lancent des outils destinés à répondre aux besoins de traçabilité. Comprendre ce qu’un filigrane peut révéler, dans quelles circonstances il disparaît et comment il s’articule avec la vérification des faits aide les éditeurs et les lecteurs à l’utiliser sans confondre détection et preuve.

Le fait de filigraner les textes générés par l’IA pour lutter contre la désinformation peut-il vraiment être utile ?

Le filigranage de texte peut aider à repérer les contenus générés par un système d’IA participant. Il ne permet pas d’établir si ces contenus sont vrais, à qui ils appartiennent, pourquoi ils ont été publiés, ni si quelqu’un les a modifiés depuis leur génération.

Cette distinction est importante, car la désinformation relève des affirmations et du contexte, pas seulement de l’origine. Un passage filigrané peut résumer fidèlement un document public, répéter une affirmation fausse ou mêler les deux. À l’inverse, un passage non filigrané peut être le fruit d’un travail journalistique humain rigoureux, une production d’IA issue d’un système qui n’utilise pas de filigrane, ou un texte dont le signal détectable a disparu lors de la révision.

Un filigrane utile fournit aux enquêteurs et aux plateformes un indice supplémentaire sur la provenance. Si un détecteur compatible repère un signal, une personne examinant une publication suspecte peut avoir des raisons de chercher d’où vient le texte et s’il a été présenté de manière honnête. C’est différent du fait d’étiqueter automatiquement la publication comme trompeuse ou de la considérer comme preuve qu’une personne en particulier l’a écrite.

Le National Institute of Standards and Technology (NIST) des États-Unis classe le filigranage parmi plusieurs approches techniques visant à réduire les risques liés aux contenus synthétiques, aux côtés du suivi de provenance, de la détection et des tests. Cette approche plus large est pragmatique : aucun marqueur technique ne peut examiner les preuves sous-jacentes à chaque affirmation d’un passage. La détection est particulièrement utile lorsqu’elle éclaire un processus de vérification au lieu de le remplacer.

• Question de provenance : Le texte contient-il un signal détectable associé à un processus de génération particulier ?
• Question d’authenticité : Le texte est-il resté intact, et sa présentation décrit-elle fidèlement son origine ?
• Question d’exactitude : Ses affirmations factuelles sont-elles étayées par des sources fiables dans le contexte concerné ?

Ces questions peuvent donner des réponses différentes pour une même publication. Prenons l’exemple d’une fausse annonce contenant des formulations réellement générées par une IA, mais prétendant à tort provenir d’une institution publique. Un filigrane pourrait aider à établir qu’un système d’IA a généré ou traité une partie du texte. Il faudrait tout de même vérifier les communications officielles de l’institution pour confirmer ou infirmer l’affirmation d’autorité.

Voilà en quoi le filigranage peut raisonnablement contribuer à lutter contre la désinformation : il peut réduire l’incertitude quant au mode de production de certains contenus. Il ne transforme pas la provenance en verdict sur l’exactitude ou l’intention.

Fonctionnement d’un filigrane de texte invisible

Contrairement à une mention visible comme « généré par l’IA », un filigrane de texte peut être intégré au choix des mots ou des unités de mots par le modèle. Pour le lecteur, le résultat ressemble à un texte ordinaire, tandis qu’un détecteur compatible recherche un motif dans l’ensemble du passage. Cette méthode nécessite de disposer d’un volume de texte suffisant pour évaluer ce motif.

Des choix de formulation, pas des caractères secrets

OpenAI appelle sa méthode de filigranage de texte « textGrain ». Ses informations sur la provenance indiquent que cette méthode modifie subtilement la manière dont un modèle choisit de façon aléatoire parmi les mots ou les unités de mots possibles, laissant un motif détectable dans le passage. OpenAI précise qu’il ne s’agit pas d’un procédé qui insère des caractères cachés, des espaces invisibles ou une ponctuation inhabituelle dans la réponse.

Ce détail de mise en œuvre a une conséquence pratique. Rechercher des espaces suspects dans un document n’est pas une manière pertinente de tester ce type de filigrane. Copier le texte dans un éditeur de texte brut ne permet pas non plus de révéler un marqueur secret. La détection nécessite un outil adapté, capable d’évaluer le signal laissé par le procédé de génération.

Le NIST décrit la plupart des méthodes de filigranage de texte proposées comme étant « à zéro bit ». Selon cette terminologie, le signal indique si le texte est filigrané, mais ne contient pas en lui-même d’informations supplémentaires telles que l’identité de l’auteur, la requête ou un historique détaillé des modifications. Un filigrane de texte diffère donc d’un registre de document contenant des informations explicites sur les personnes qui ont manipulé un fichier.

Que signifie le résultat d’un détecteur ?

Un résultat positif doit être interprété comme la preuve qu’un signal détectable a été repéré dans les conditions de fonctionnement du détecteur, et non comme un compte rendu complet de la manière dont le texte a été produit. OpenAI indique que son détecteur vise à signaler la présence éventuelle d’un filigrane OpenAI sans révéler les requêtes, les conversations ou l’identité de l’utilisateur. L’entreprise précise que les chercheurs agréés et les organismes experts peuvent demander à y accéder ; cela ne signifie pas que n’importe quel lecteur peut vérifier chaque paragraphe suspect à l’aide d’un détecteur public.

Google offre un autre exemple de travaux dans ce domaine. Son Responsible GenAI Toolkit comprend SynthID Text, présenté comme un moyen de filigraner et de détecter les textes générés par l’IA, avec un accès destiné aux développeurs par l’intermédiaire de la boîte à outils et de Hugging Face. L’existence de plusieurs systèmes ne signifie pas qu’un détecteur conçu pour un filigrane donné reconnaîtra les autres. Toute personne qui conçoit un processus de vérification doit savoir quels systèmes ont produit le contenu et quels outils de détection sont capables de l’examiner.

Même lorsque la détection fonctionne, sa réponse reste limitée : un signal a été repéré dans le texte soumis. L’étape suivante consiste à interpréter ce résultat à la lumière des affirmations de la publication et des éléments de preuve disponibles en dehors du détecteur.

Ce que le règlement européen sur l’IA change pour les textes générés par l’IA

Le règlement européen sur l’IA prévoit que les fournisseurs de systèmes d’IA générant des textes synthétiques doivent veiller à ce que les résultats soient marqués dans un format lisible par machine et détectables comme étant artificiellement générés ou manipulés. Cela explique en partie pourquoi le filigranage est passé du domaine de la recherche à celui des produits et de la conformité. Le texte juridique porte sur la détectabilité des contenus concernés ; il ne faut pas le réduire à la promesse que chaque texte écrit avec l’aide de l’IA sur Internet portera un badge visible.

Le 5 octobre 2026, OpenAI a annoncé le déploiement, sur la base du volontariat, du filigranage de texte pour les clients de son API dans le monde entier et, au cours des semaines suivantes, pour les textes éligibles de ChatGPT et Codex, dans l’UE uniquement. Ces réserves sont importantes. Une offre facultative pour l’API, un déploiement limité à certains produits et utilisateurs, et une mise en œuvre réservée à l’UE ne constituent pas un marquage universel de tous les résultats, partout dans le monde.

Le Parlement européen a également soutenu le filigranage numérique en tant qu’outil de transparence et de protection des droits. Sa résolution du 10 mars 2026 présente le filigranage numérique comme un outil innovant et robuste pour protéger le droit d’auteur et les droits voisins dans les domaines du texte, de l’image, de la vidéo et de l’audio. Une résolution soutenant un outil et une obligation légale de marquage ont des objectifs différents ; ni l’une ni l’autre ne transforme un filigrane en certificat automatique de droit d’auteur.

Questions à se poser pour les équipes qui publient dans l’UE

Si une organisation diffuse des textes générés par l’IA, il est utile de commencer par cartographier la manière dont ils sont créés et publiés. Un fournisseur applique-t-il un signal lisible par machine au résultat ? Un processus éditorial le réécrit-il ? Un système de gestion de contenu affiche-t-il une mention ? Les réponses ont une incidence sur ce que les lecteurs ou enquêteurs en aval peuvent réellement détecter, même lorsqu’un fournisseur a mis en place une fonction de marquage.

1. Déterminez quels systèmes d’IA génèrent du texte dans le processus de travail et si leurs fonctions de marquage sont disponibles et activées pour l’usage concerné.
2. Demandez au fournisseur ce qu’il entend par résultat détectable, notamment si l’accès au détecteur est restreint et si les textes modifiés restent dans le périmètre d’utilisation testé.
3. Conservez les mentions éditoriales visibles et les registres lorsqu’ils apportent un contexte que le signal lisible par machine ne fournit pas.

Ces étapes constituent une liste de contrôle opérationnelle, et non un substitut à l’interprétation des exigences du règlement dans un contexte donné. Elles permettent d’éviter une erreur courante dans la planification : traiter un filigrane appliqué au niveau du modèle comme s’il expliquait automatiquement chaque version ultérieure d’un article, d’une publication ou d’un communiqué de presse.

Pourquoi les textes courts, modifiés ou soumis à des attaques peuvent échapper à la détection

Un filigrane de texte repose sur un motif présent dans le résultat. Si un passage est trop court, le détecteur peut ne pas disposer d’éléments suffisants pour l’évaluer de manière fiable. Si quelqu’un révise, paraphrase ou traduit le texte, le motif peut changer. OpenAI souligne précisément que les textes courts, modifiés ou traduits générés avec ses outils peuvent être difficiles à détecter de manière fiable.

C’est particulièrement important dans le contexte de la lutte contre la désinformation. Un lecteur peut tomber sur une légende tronquée, une phrase, un message bref ou une citation extraite d’une publication plus longue plutôt que sur le résultat original dans son intégralité. Tester ce fragment et ne pas y trouver de filigrane ne permet pas d’établir que l’IA n’a joué aucun rôle dans la production du contenu source.

Les modifications ordinaires et la suppression délibérée sont deux problèmes différents

Des modifications légitimes peuvent affaiblir un signal sans aucune intention de tromper. Un éditeur peut raccourcir un brouillon, remplacer une formulation maladroite, le traduire pour un autre public ou combiner un texte produit par l’IA avec un travail journalistique humain. Dans ces cas, le texte final peut être plus utile ou plus exact que le premier brouillon, tout en devenant plus difficile à classifier à partir de sa seule formulation.

Un acteur malveillant a un objectif différent : conserver le pouvoir de persuasion du message tout en rendant son origine moins détectable. Une étude de 2024 sur les attaques adversariales visant les filigranes soutient que leurs performances doivent être évaluées face aux attaques visant à les supprimer, et pas seulement sur des résultats intacts. La conséquence pour le déploiement est simple : un filigrane qui fonctionne sur des échantillons non modifiés peut offrir une protection moindre contre quelqu’un qui modifie délibérément une publication trompeuse.

Les performances sur les textes courts et la résistance aux attaques sont également des priorités de recherche. Dans ses commentaires au NIST, Microsoft a préconisé des travaux sur les méthodes de signalement des textes générés par l’IA qui résistent aux attaques et fonctionnent sur les textes courts. Cette demande témoigne de l’écart pratique entre la détection d’une longue réponse non modifiée d’un modèle et l’évaluation des messages concis que les gens partagent souvent.

• Texte insuffisant : Un court extrait peut ne pas contenir assez d’éléments du motif pour permettre une détection fiable.
• Réécriture importante : Une nouvelle formulation peut rendre le marqueur du brouillon d’origine plus difficile à repérer dans la version finale.
• Traduction : Reformuler un passage dans une autre langue peut modifier les mots qui portaient le signal.
• Auteurs multiples : Un document assemblé à partir de textes humains et générés par l’IA peut ne pas se prêter à une conclusion simple portant sur le document dans son ensemble.

La règle à suivre n’est pas d’écarter les détecteurs, mais d’interpréter les résultats positifs et négatifs en tenant compte des conditions dans lesquelles ils ont été testés. Un résultat négatif ne doit pas être transformé en déclaration d’auteur humain, surtout lorsque le texte est bref ou qu’il est passé entre des mains inconnues.

Pourquoi la provenance de l’IA n’est pas un indicateur de véracité

Un signal d’origine détectable et une affirmation factuelle vérifiée sont deux types d’informations différents. Les informations d’OpenAI sur la provenance indiquent que de tels signaux ne garantissent pas que le contenu est exact, non modifié, juridiquement détenu ou présenté dans le bon contexte. Un filigrane peut indiquer qu’un système OpenAI a généré ou traité une partie d’un texte, sans déterminer si ses affirmations sont exactes.

Imaginons le résumé filigrané d’un rapport authentique qui omet une réserve essentielle. Le filigrane peut être détecté à juste titre, alors que le résumé induit toujours les lecteurs en erreur. Imaginons maintenant une publication rédigée par un humain qui prétend faussement citer ce même rapport. L’absence de filigrane d’IA n’aurait aucune incidence sur la véracité de son affirmation. Dans les deux cas, il faut vérifier les sources plutôt que rendre un verdict fondé uniquement sur l’origine.

La qualité doit également faire partie de l’évaluation

Les fournisseurs de modèles doivent aussi se poser une autre question : l’ajout d’un filigrane modifie-t-il la qualité de la réponse ? Un article de 2026 publié sur arXiv et intitulé Invisible Ink, Visible Lies indique que le filigranage peut provoquer ou amplifier des erreurs factuelles, même lorsque des éléments de preuve figurent dans le contexte. L’article qualifie cet effet d’« hallucination due au filigranage ». Il s’agit d’un avertissement issu de la recherche, et non d’un motif pour affirmer que tous les systèmes de filigranage provoquent des erreurs dans toutes les situations.

La réponse appropriée consiste à évaluer les performances factuelles autant que les performances de détection. Pour un système utilisé afin de résumer des éléments de preuve, cela signifie vérifier si les résultats filigranés et non filigranés conservent les mêmes faits, réserves et citations pertinents avec des requêtes réalistes. Une détection efficace ne compenserait pas une dégradation mesurable des contenus sur lesquels les gens s’appuient.

Les éditeurs doivent aussi éviter les formulations qui exagèrent la signification d’un signal d’origine. « Un détecteur a repéré un filigrane associé à un système d’IA » est une affirmation plus limitée que « cette histoire a été fabriquée par l’IA ». La première concerne le signal ; la seconde ajoute des jugements sur la véracité, l’intention et la création de l’histoire dans son ensemble, que le signal seul ne peut étayer.

Lorsqu’une affirmation est importante, vérifiez-la à partir des éléments de preuve sous-jacents. Utilisez un signal de provenance pour orienter cette vérification, pas pour y mettre fin.

Cette approche protège contre les erreurs dans les deux sens. Elle évite de rejeter un contenu exact au seul motif que l’IA a contribué à sa rédaction, et empêche les contenus non filigranés de bénéficier d’une présomption de véracité injustifiée. Dans la lutte contre la désinformation, ces distinctions ne sont pas anodines : elles déterminent si l’attention se porte sur les preuves ou sur une étiquette potentiellement trompeuse.

Filigranage, mentions visibles, registres de provenance et vérification des faits

Le filigranage de texte est plus efficace lorsqu’il s’inscrit dans un système de transparence plus large. D’autres approches répondent à des questions auxquelles un motif de choix de mots ne peut répondre. Le choix entre ces méthodes dépend du besoin principal : avertir le lecteur, conserver l’historique d’un contenu, évaluer une affirmation précise ou rechercher la présence d’un signal de génération par l’IA.

Choisir le signal adapté à la question

• Filigranage invisible : Ajoute un indice détectable par une machine aux résultats éligibles d’un modèle, sans dépendre d’un badge visible dans le texte. Son utilité dépend de l’accès au détecteur, de la préservation du signal et du type de texte examiné.
• Mention visible : Indique directement au lecteur que l’IA a contribué au contenu. Elle peut expliquer le rôle humain, par exemple préciser si un éditeur a relu un brouillon, mais une personne qui republie le texte peut supprimer ou déformer cette mention.
• Registres de provenance : Consignent des déclarations sur l’origine ou le traitement du contenu dans un format conçu pour la vérification. Leur valeur dépend de leur mise en œuvre et de la disponibilité des informations pertinentes au fil de la circulation du contenu.
• Vérification des faits : Confronte une affirmation précise à des éléments de preuve. Elle traite de l’exactitude, que le filigrane ne permet pas d’établir, mais nécessite d’examiner l’affirmation et son contexte.

C2PA est une initiative visant à mettre en place une infrastructure de provenance dans l’ensemble de l’écosystème des contenus. Ses consignes de mise en œuvre font explicitement référence aux actions c2pa.watermarked.bound et aux assertions correspondantes décrivant les algorithmes de filigranage utilisés dans les contenus. Cela montre comment décrire des actions liées au filigranage dans un cadre de provenance plus large ; cela ne signifie pas que chaque passage de texte filigrané comporte un historique complet et vérifiable.

Les annonces de C2PA en 2026 témoignent également de la participation de grandes plateformes, notamment de l’entrée de TikTok au sein de son comité directeur en juillet 2026, ainsi que de la participation antérieure d’OpenAI. La participation de l’écosystème est importante, car la provenance devient plus utile lorsque les producteurs et les distributeurs peuvent traiter des informations compatibles. Il ne faut toutefois pas la confondre avec une adoption universelle sur toutes les plateformes et dans tous les formats de contenu.

OpenAI a décrit une approche combinant des normes ouvertes comme C2PA, des signaux de filigranage durables comme SynthID et des outils de vérification pour différents types de contenus. La leçon pratique n’est pas de choisir un seul mécanisme et de considérer que le travail est terminé. Un éditeur peut avoir besoin d’une mention visible pour les lecteurs, d’un registre pour un audit interne et d’un signal lisible par machine pour les processus de détection compatibles.

Cette combinaison est particulièrement importante lorsque le contenu change de forme. Une publication sur les réseaux sociaux peut contenir une citation recadrée tirée d’un article plus long ; une lettre d’information peut adapter un brouillon rédigé avec l’aide de l’IA ; une image peut afficher une capture d’écran d’un texte. Les mécanismes disponibles pour examiner chaque élément peuvent différer. Un vérificateur de faits doit toujours remonter à une source sous-jacente fiable pour vérifier l’affirmation importante.

Comment utiliser le filigranage de texte dans un processus de publication

Pour les éditeurs, l’objectif ne consiste pas simplement à activer une fonctionnalité. Il s’agit de décrire fidèlement la manière dont le contenu a été produit tout en conservant suffisamment de contexte pour permettre un examen ultérieur. Un processus qui consigne les décisions prises à chaque étape est plus utile qu’un badge dont personne dans l’équipe ne peut expliquer la signification.

1. Définissez ce qui doit être signalé. Distinguez les textes entièrement générés des travaux de recherche, de révision ou de mise en forme réalisés avec l’aide de l’IA. Si une mention accompagne le contenu final, veillez à ce qu’elle décrive la contribution réelle, plutôt que de traiter toutes les utilisations comme équivalentes.
2. Déterminez quels signaux les fournisseurs mettent à disposition. Demandez si les outils utilisés prennent en charge le filigranage de texte, si l’option est activée, quels contenus elle couvre et qui peut utiliser un détecteur compatible. Si la fonctionnalité n’est pas disponible, ne prétendez pas que le texte obtenu a été filigrané.
3. Conservez un historique interne. Gardez suffisamment d’informations sur les brouillons, les révisions et les validations pour pouvoir expliquer l’évolution du texte publié. Cet historique peut répondre à des questions auxquelles un filigrane à zéro bit ne peut répondre, sans divulguer les requêtes privées ou les informations sur les utilisateurs dans une mention publique.
4. Vérifiez les affirmations indépendamment. Avant publication, confrontez les affirmations importantes aux sources sous-jacentes. Un signal indiquant une intervention de l’IA ne remplace pas une vérification éditoriale de l’exactitude.
5. Testez la version publiée. Déterminez si le raccourcissement, la traduction ou une révision approfondie modifie ce qu’un détecteur peut raisonnablement évaluer. Décrivez les capacités de détection par rapport au contenu final, et non uniquement à une réponse brute du modèle.
6. Prévoyez une procédure de correction. Si une publication est contestée, conservez la version mise en cause, examinez ses affirmations et rectifiez les informations publiques le cas échéant. Le résultat d’un détecteur peut éclairer l’enquête, mais ne doit pas être l’unique motif d’une correction ou d’une accusation.

Cette démarche clarifie également les responsabilités. Un fournisseur de modèle peut mettre en œuvre un mécanisme de marquage, tandis que l’éditeur reste responsable de ce que la publication affirme aux lecteurs. Un distributeur qui décide de signaler une publication doit, quant à lui, évaluer le signal sans divulguer d’informations privées ni laisser entendre que l’origine IA prouve à elle seule une faute.

OpenAI indique que les chercheurs agréés et les organismes experts peuvent demander l’accès au détecteur, et que la détection ne révèle ni l’identité d’un utilisateur ni ses requêtes. Cette limite en matière de confidentialité est précieuse, mais elle signifie aussi que le détecteur n’est pas un outil d’identification permettant d’enquêter sur un compte anonyme. Les équipes doivent éviter de promettre aux enquêteurs des informations que le système n’est pas conçu pour fournir.

Enfin, évaluez le texte lui-même après l’introduction d’une méthode de filigranage. Si le texte devient plus difficile à comprendre, omet des réserves ou contient des affirmations non étayées, le processus de production n’a pas réussi simplement parce que le détecteur reconnaît son signal. La transparence et l’exactitude devraient progresser ensemble, ou, à tout le moins, être évaluées séparément afin que l’une ne masque pas un problème de l’autre.

Comment les lecteurs et les enquêteurs devraient interpréter un résultat de détection de filigrane

Lorsqu’un passage suspect circule, commencez par l’affirmation que l’on demande aux gens de croire. Retrouvez si possible la publication d’origine, déterminez si la version partagée est un extrait ou une traduction, et identifiez les documents ou déclarations susceptibles de confirmer l’affirmation. Ces vérifications préalables sont importantes avant de soumettre un texte à un outil de détection, car la forme du passage influe sur la signification du résultat.

Si un détecteur adapté signale un filigrane, formulez le résultat avec précision. Il peut étayer la conclusion qu’un système d’IA participant a généré ou traité une partie du texte. À lui seul, il ne permet pas d’identifier la personne qui a publié le passage, de prouver que chaque phrase a été rédigée par une IA ni d’établir que l’événement allégué a eu lieu.

Si le détecteur ne signale aucun filigrane, évitez de tirer la conclusion inverse. Le contenu est peut-être trop court, a été modifié ou traduit, a été produit par un autre système ou ne relève pas du champ d’application du détecteur. Il est plus utile d’examiner l’historique de publication, les documents corroborants et la source d’origine de l’affirmation que de rechercher à répétition un verdict technique que le texte disponible ne peut étayer.

Ordre pratique des vérifications

1. Enregistrez le texte exact et le contexte dans lequel l’affirmation est apparue, en précisant s’il s’agit d’une citation, d’un résumé ou d’un reportage original.
2. Retrouvez la version la plus ancienne accessible et relevez les différences importantes entre celle-ci et la copie examinée.
3. Utilisez un détecteur compatible uniquement si son champ d’application et ses conditions d’accès correspondent au contenu examiné.
4. Décrivez avec précision tout résultat de détection, puis vérifiez l’affirmation de fond à partir de sources indépendantes.

Cette démarche aide à éviter une erreur fréquente : répondre à la question « L’IA est-elle intervenue ? » sans résoudre la question « Est-ce vrai ? ». Elle laisse également place à l’incertitude. Un résultat peut être utile sans être concluant, et une explication publique responsable peut préciser exactement à quelle question il répond et lesquelles nécessitent encore des vérifications.

Le filigranage fournit un indice de provenance utile, en particulier lorsqu’un fournisseur participant marque le texte et qu’un détecteur compatible peut examiner une partie suffisante de sa formulation d’origine. Ses limites sont particulièrement importantes pour les contenus courts, remaniés et largement repartagés, là où les préoccupations liées à la désinformation sont souvent les plus fortes.

Pour bien utiliser cette technologie, associez les signaux lisibles par machine à des mentions claires, à de bonnes pratiques de provenance et à la vérification des affirmations sous-jacentes. Considérez le filigrane comme le point de départ d’une meilleure question sur l’origine, et non comme la réponse définitive sur la véracité.