Anthropic : watermark étendu, deux anciens Claude contournables

D’après un article de The Decoder, Anthropic a annoncé l’extension de son watermark textuel à plusieurs modèles Claude pour se conformer à l’exigence du règlement européen sur l’IA, dont la mise en application est attendue en décembre. L’opération concerne quatre modèles supplémentaires de la famille Claude.

Le même texte signale cependant une faille sur deux versions plus anciennes — Claude Opus 4.6 et Sonnet 4.6 — où un développeur peut, en modifiant un seul paramètre d’échantillonnage, faire disparaître le watermark. Anthropic a réagi en laissant une alerte de conformité plutôt qu’un correctif bloquant.

Qu’est-ce que révèle la faille ?

La vulnérabilité identifiée n’est pas une brèche complexe : elle relève d’un réglage de génération dit « d’échantillonnage ». En pratique, cela signifie qu’en ajustant la manière dont le modèle produit du texte (un paramètre accessible aux développeurs), le mécanisme de watermark peut être neutralisé.

Le signalement de The Decoder montre que la protection appliquée n’est pas universelle dans le parc des modèles d’Anthropic. Les versions plus anciennes conservent un comportement différent qui rend possible ce contournement sans modifications profondes du modèle.

La réaction d’Anthropic

Plutôt que de bloquer l’accès ou de déployer un patch immédiat pour interdire la modification du paramètre incriminé, Anthropic a choisi d’informer les utilisateurs via un avertissement de conformité. Le message insiste sur les obligations réglementaires à venir et signale que le paramètre peut affecter la présence du watermark.

Il reste incertain si cette alerte sera suivie d’une mise à jour technique contraignante ou d’un retrait des versions concernées. The Decoder ne précise pas si un correctif est planifié ni les échéances éventuelles pour une résolution technique.

Conséquences pour la conformité à l’AI Act

Le règlement européen sur l’IA introduit des obligations précises pour les fournisseurs d’IA opérant sur le marché européen. L’extension publique du watermark par Anthropic vise à répondre à ces exigences.

Mais la possibilité de neutraliser le watermark sur certains modèles pose une question pratique : la conformité effective dépend-elle uniquement de la présence d’un mécanisme, ou aussi de sa robustesse face aux réglages accessibles aux utilisateurs ?

Sur ce point, les autorités et les entreprises devront trancher. The Decoder indique clairement l’existence de la faille ; elle implique que les évaluations de conformité pourraient exiger des preuves techniques plus poussées que la simple activation d’une fonctionnalité.

Limites techniques des watermarks

Les watermarks textuels sont conçus comme des signaux intégrés au texte généré, destinés à être détectables par des outils automatiques. Leur efficacité dépend de la façon dont la génération du texte influe sur ce signal.

Un watermark qui peut être altéré par un réglage standard d’échantillonnage montre que ces protections ne sont pas infaillibles. Cela illustre la tension entre souplesse d’usage pour les développeurs et exigence de traçabilité voulue par les régulateurs.

Risques pour les utilisateurs et les plateformes

Pour les entreprises intégrant Claude Opus 4.6 ou Sonnet 4.6, la découverte de cette possibilité impose de reconsidérer les contrôles internes. Si un client ou un partenaire modifie le paramètre en question, le contenu produit pourrait perdre son marquage sans trace évidente.

Pour les plateformes qui indexent ou modèrent du contenu, la question est également pratique : comment détecter automatiquement un texte qui a été généré par un modèle mais dont le watermark a été supprimé par un simple réglage ?

Quel rôle pour Anthropic et pour les régulateurs ?

Anthropic a pris une mesure visible en étendant le watermark à d’autres modèles et en publiant un avis de conformité. Mais l’efficacité juridique et technique de cette démarche dépendra d’actions complémentaires : corrections logicielles, limitations d’accès aux anciens modèles, ou documentation renforcée pour les utilisateurs.

Les régulateurs, de leur côté, devront préciser si la conformité exige une robustesse contre les modifications de paramètres accessibles, ou si la bonne foi et les avertissements suffisent. The Decoder ne donne pas d’indication sur la position des autorités à ce propos.

Que peuvent faire les clients et intégrateurs aujourd’hui ?

• Vérifier les versions de modèles déployées : privilégier les modèles où le watermark est déclaré actif et vérifier les notes d’Anthropic.
• Auditer les paramètres d’échantillonnage exposés aux utilisateurs : restreindre ou journaliser les modifications susceptibles d’altérer la présence du watermark.
• Documenter les processus de génération et conserver des logs : en cas de contrôle, il sera utile de prouver le comportement effectif du système.

Une alerte, pas encore une solution

La communication d’Anthropic, telle que rapportée par The Decoder, marque une étape vers la conformité au cadre européen, mais elle expose aussi les limites pratiques des outils de traçage automatique. Le choix d’un avertissement plutôt que d’un correctif immédiat laisse ouverte la fenêtre d’incertitude sur la robustesse réelle de la mesure.

Les prochains mois seront déterminants : soit Anthropic comble la faille techniquement, soit les autorités préciseront les attentes en matière de résistance aux contournements. D’ici là, développeurs et utilisateurs doivent agir avec prudence et transparence.