Anthropic active un watermark textuel sur plusieurs Claude, mais une faille subsiste

Anthropic a annoncé l’extension d’un watermark textuel à plusieurs modèles de sa famille Claude pour se conformer au calendrier du règlement européen sur l’IA. L’objectif affiché est de faciliter l’identification automatique des contenus générés par l’IA avant la date limite de conformité prévue en décembre.

Mais, d’après un article de The Decoder, deux modèles plus anciens — Claude Opus 4.6 et Sonnet 4.6 — présentent une vulnérabilité praticable : un réglage de sampling permettrait de produire du texte généré sans watermark. Anthropic indique ce contournement par un avertissement de conformité, sans blocage technique plus strict pour l’instant.

Pourquoi un watermark ?

Le watermark textuel vise à marquer de façon traçable les sorties des grands modèles de langage afin d’aider la détection automatisée et les contrôles réglementaires. Pour les acteurs de l’IA, c’est un instrument de conformité qui peut rassurer régulateurs et clients sur l’origine des contenus.

La faille identifiée

Selon The Decoder, les modèles Claude Opus 4.6 et Sonnet 4.6 offrent une possibilité de contournement en modifiant un seul paramètre de sampling. Le récit ne précise pas davantage la nature technique exacte de ce paramètre ni si le contournement est simple à industrialiser à grande échelle.

La réponse d’Anthropic

Anthropic a déployé le watermark sur quatre modèles supplémentaires pour respecter le délai fixé par l’AI Act. Pour les deux versions plus anciennes, la société a choisi d’indiquer le risque via un avertissement de conformité plutôt que d’empêcher techniquement l’utilisation du paramètre en question.

Que signifie cet avertissement ?

Un message de conformité informe les développeurs et utilisateurs qu’ils pourraient générer des sorties non marquées s’ils modifient certains réglages. Cela laisse la responsabilité d’éviter ou de signaler de tels usages aux équipes qui exploitent les modèles, plutôt que d’imposer un verrou logiciel.

Implications pratiques

Détection : si des sorties non watermarkées circulent, les outils automatiques de repérage perdront de leur fiabilité sur ces flux.
Conformité : l’existence d’une option contournant la protection pose la question de savoir si la simple présence d’un watermark activable suffit pour respecter l’esprit du texte réglementaire.
Adoption : certains clients institutionnels ou entreprises pourraient exiger des garanties techniques plus fortes que de simples avertissements.

Ce que l’on sait et ce qui reste incertain

Les éléments rapportés par The Decoder confirment l’existence d’un contournement possible et d’une réponse d’Anthropic fondée sur l’information plutôt que le blocage. En revanche, plusieurs points restent flous : l’étendue exacte de l’impact sur les autres modèles, la facilité réelle d’exploitation du réglage de sampling, et la feuille de route technique d’Anthropic pour corriger ou verrouiller cette porte de sortie.

Conséquences pour les régulateurs et les clients

Pour les régulateurs, une solution fondée uniquement sur un avertissement pourrait poser un dilemme : accepter une mitigation déclarative ou exiger des protections techniques robustes. Pour les organisations clientes, il faudra évaluer le niveau de risque opérationnel et contractuel associé à l’emploi de modèles susceptibles de produire des sorties non marquées.

Recommandations pratiques

Sans présumer des mesures futures d’Anthropic, les équipes techniques et juridiques devraient :

Auditer les paramètres d’inférence disponibles dans les versions déployées et consigner les cas où le watermark peut être désactivé.
Appliquer des politiques internes limitant l’utilisation de versions susceptibles de contourner les protections, en particulier pour des scénarios à risque élevé.
Demander des garanties contractuelles aux fournisseurs sur la robustesse des mécanismes de traçabilité et sur les correctifs prévus.

Une question de temps

Le calendrier réglementaire européen impose une pression forte : la mise en conformité technique doit intervenir rapidement. À court terme, l’option d’un avertissement peut permettre à Anthropic d’accélérer le déploiement du watermark, mais elle laisse ouvertes des interrogations opérationnelles et juridiques tant que la faille n’est pas colmatée.

D’après le reportage de The Decoder, il faudra suivre de près les prochaines mises à jour d’Anthropic et les réactions des autorités européennes pour savoir si l’approche déclarative suffira ou si des mesures techniques plus contraignantes seront exigées. Les détails précis du paramètre et l’ampleur du contournement n’ont pas été rendus publics, ce qui constitue une incertitude importante.