Anthropic étend son filigrane texte, mais deux modèles restent contournables

Selon un reportage de The Decoder, Anthropic a étendu le déploiement d’un filigrane textuel à quatre modèles Claude supplémentaires afin de se conformer à l’échéance du règlement européen sur l’IA en décembre. L’objectif déclaré est d’étiqueter la production générée par ces modèles pour faciliter la traçabilité et la conformité réglementaire.

Cependant, The Decoder signale qu’un contournement subsiste sur deux versions plus anciennes — Claude Opus 4.6 et Sonnet 4.6 — où un simple ajustement d’un paramètre d’échantillonnage permettrait d’éviter l’application du filigrane. Anthropic a répondu à cette faille par un avertissement de conformité, sans déployer de correctif bloquant immédiat, d’après le même article.

Le contournement technique expliqué

L’information centrale rapportée par The Decoder est concise : sur Opus 4.6 et Sonnet 4.6, modifier un seul paramètre de sampling empêche que le filigrane textuel soit inséré. L’article ne détaille pas le nom exact du paramètre ni la manipulation précise, et il est donc impossible, à partir des éléments publics cités, d’évaluer la simplicité exacte de l’opération pour un développeur non spécialisé.

Cette absence de précision crée une zone d’incertitude opérationnelle : il peut s’agir d’un réglage accessible via l’API, d’un paramètre caché ou d’un artefact lié à certaines configurations de génération. The Decoder ne précise pas non plus la fréquence à laquelle ce contournement se produit en pratique.

Pourquoi cela importe pour la conformité au règlement IA

Le règlement européen sur l’IA impose des obligations de traçabilité et d’étiquetage qui peuvent reposer sur des dispositifs comme un filigrane textuel. Si des modèles restent techniquement contournables, cela fragilise la capacité des fournisseurs et des utilisateurs à démontrer la conformité en cas de contrôle.

Anthropic a choisi, selon The Decoder, de signaler la faille par un message de conformité plutôt que par un verrou technique immédiat. Cela soulève des questions pratiques : un simple avertissement suffit‑il pour réduire le risque juridique et opérationnel pour les clients qui déploient ces versions ?

Conséquences pour les entreprises utilisatrices

Pour les entreprises qui misent sur la traçabilité des contenus générés, l’existence d’un tel contournement impose des choix. Elles peuvent reporter le déploiement de modèles concernés, verrouiller des configurations internes, ou exiger des engagements contractuels supplémentaires de la part du fournisseur.

Il est également possible que des équipes de sécurité et de conformité définissent des contrôles d’entrée et de sortie (input/output monitoring) pour détecter des contenus non filigranés. Mais l’article n’indique pas si Anthropic propose des outils complémentaires pour faciliter ce type de monitoring.

Que peuvent faire les responsables produits et juridiques ?

• Vérifier les versions déployées : privilégier les modèles explicitement couverts par le filigrane robuste ou demander un calendrier de correctifs pour les versions plus anciennes.
• Documenter les paramètres : conserver des configurations reproductibles et journaliser les appels API pour prouver que des paramètres non autorisés n’ont pas été utilisés.
• Exiger un engagement contractuel : demander au fournisseur des garanties sur la remédiation technique ou des clauses de responsabilité adaptées.
• Mettre en place une surveillance : déployer des outils de détection des contenus générés automatiquement et comparer leur efficacité face à des filigranes absents.

Limites de l’information disponible

Il est important de souligner les limites du signalement : The Decoder rapporte la découverte et la réponse d’Anthropic, mais ne fournit pas de preuve publique du contournement ni de mesure d’impact chiffrée. Le nom du paramètre et les conditions exactes du contournement ne sont pas documentés dans l’article cité.

Par conséquent, plusieurs éléments restent incertains : la facilité réelle du contournement pour un utilisateur lambda, le nombre d’instances où il peut être exploité, et le calendrier d’un correctif technique plus strict de la part d’Anthropic.

Enjeux pour les autorités et la confiance

Du point de vue réglementaire, la découverte illustre la tension entre déploiement rapide de protections techniques et robustesse réelle de ces protections. Les régulateurs pourraient interpréter un avertissement seul comme insuffisant si un contournement reste accessible en production.

Pour la confiance des clients, la communication et la réactivité du fournisseur seront déterminantes : publier des correctifs, verrouiller les paramètres sensibles ou fournir des outils de détection complémentaires sont des réponses attendues par les équipes de conformité.

Conclusion

Le signalement de The Decoder met en lumière un problème concret : Anthropic a étendu le filigrane à plusieurs modèles mais deux versions plus anciennes présentent un point de faiblesse exploitable via un réglage d’échantillonnage. Anthropic a répondu par un avertissement de conformité, sans correctif bloquant connu publiquement.

Face à cette incertitude, les utilisateurs professionnels doivent auditer leurs déploiements et demander des garanties techniques et contractuelles. Les autorités, quant à elles, devront surveiller si des remédiations plus robustes sont mises en œuvre avant l’entrée en vigueur pleine et stricte des obligations réglementaires.

Attribution : reportage et données initiales rapportés par The Decoder.