Anthropic: un watermark contournable sur deux anciens modèles Claude

D’après un article de The Decoder, Anthropic étend son mécanisme de watermarking de texte à quatre modèles supplémentaires de la famille Claude, dans le but de répondre à l’exigence du règlement européen sur l’IA qui devient contraignant en décembre.

Sur deux versions plus anciennes — Claude Opus 4.6 et Sonnet 4.6 — The Decoder rapporte qu’un développeur peut contourner ce marquage en modifiant un seul paramètre d’échantillonnage. Pour l’instant, Anthropic a assorti la mise à jour d’un avertissement de conformité plutôt que d’un blocage technique.

Qu’est‑ce que le watermark et pourquoi il compte

Le watermarking de texte est conçu pour laisser une signature détectable dans les sorties des modèles, afin d’aider à distinguer un texte généré par une IA d’un texte humain. Dans le contexte du règlement européen sur l’IA, il vise à faciliter la traçabilité et à réduire les usages abusifs.

Une brèche sur deux modèles plus anciens

The Decoder indique que la protection n’est pas universelle pour toutes les versions : sur Claude Opus 4.6 et Sonnet 4.6, la sécurisation peut être contournée en ajustant un seul paramètre d’échantillonnage.

Le rapport ne précise pas l’identité exacte du paramètre ni la manière précise de le modifier. Il s’agit d’une description technique limitée : The Decoder mentionne simplement qu’une modification mineure côté client permet d’échapper au watermark.

La réponse d’Anthropic

Selon The Decoder, Anthropic a livré la mise à jour avec un message d’avertissement de conformité destiné aux développeurs. L’éditeur n’a pas, d’après le reportage, verrouillé techniquement la voie de contournement sur ces deux versions.

Il n’est pas précisé si Anthropic prévoit des correctifs supplémentaires, une restriction d’accès aux versions concernées, ou un changement d’architecture du marquage pour combler la faille.

Implications pour la conformité au règlement européen

Si le watermark est contournable sur certaines versions, cela pose des questions pratiques pour les autorités et les entreprises tenues de respecter le règlement européen. Un mécanisme signalant la conformité sans mesures techniques robustes peut limiter l’efficacité de la règle dans la prévention des usages illicites ou non autorisés.

Reste à savoir comment les régulateurs interpréteront un dispositif partiellement contournable : la présence d’un avertissement d’éditeur suffit‑elle à satisfaire une obligation légale ? The Decoder ne documente pas la position des autorités sur ce cas particulier.

Conséquences opérationnelles pour les intégrateurs

Les développeurs et intégrateurs qui utilisent des versions plus anciennes de Claude doivent être conscients du risque. Tant que la brèche existe, des usages malveillants ou non conformes pourraient rester indétectables par des outils reposant uniquement sur ce watermark.

La prudence implique de privilégier les versions mises à jour ou d’appliquer des contrôles additionnels de gouvernance et d’audit sur les sorties des modèles.

Ce qui reste incertain

• Il n’est pas indiqué si Anthropic prépare un correctif technique visant spécifiquement Opus 4.6 et Sonnet 4.6.
• La portée réelle du contournement (par qui et à quelle échelle il est exploité) n’est pas documentée par The Decoder.
• La manière dont les autorités européennes évalueront la conformité d’un watermark contournable reste ouverte.

Que peuvent faire les entreprises maintenant ?

Les organisations soumises au règlement doivent vérifier les versions de modèles qu’elles déploient et exiger, si nécessaire, des garanties techniques ou contractuelles auprès des fournisseurs. En l’absence d’informations publiques détaillées, il est raisonnable d’ajouter des contrôles d’audit et de surveillance sur les flux de texte générés.

Ce texte s’appuie sur le reportage de The Decoder. Les éléments non spécifiés par cette source sont explicitement présentés comme incertains dans l’article.