Anthropic étend son watermark mais deux anciens modèles restent contournables

Anthropic a annoncé l’extension d’un watermark textuel à quatre modèles supplémentaires de sa famille Claude, un mouvement présenté comme destiné à respecter l’échéance imposée par l’AI Act européen en décembre. La mesure vise à rendre plus traçable la provenance de textes générés automatiquement.

Selon un article de The Decoder, la mise à jour laisse toutefois une faille sur deux anciens modèles : sur Opus 4.6 et Sonnet 4.6, il suffirait de modifier un seul paramètre d’échantillonnage pour contourner la marque. Anthropic a réagi en affichant un avertissement de conformité pour ces cas.

Qu’a annoncé Anthropic ?

Le déploiement du watermark couvre désormais quatre modèles supplémentaires de la série Claude. L’objectif déclaré est d’aligner l’offre d’Anthropic sur le calendrier réglementaire européen.

Le détail des modèles concernés et la méthode technique exacte du watermark n’ont pas été précisés dans les éléments fournis ici.

La faille identifiée sur Opus 4.6 et Sonnet 4.6

D’après The Decoder, la particularité notable est que la protection peut être neutralisée sur ces deux versions antérieures en ajustant un unique paramètre d’échantillonnage. Le signalement ne précise pas quel paramètre est en cause ni si le contournement produit des traces visibles.

Il s’agit d’une vulnérabilité mécanique : plutôt qu’un défaut dans le watermark lui-même, le point faible tient à la manière dont le modèle utilise certains réglages de génération.

La réponse d’Anthropic

Anthropic a choisi de traiter la situation en ajoutant un avertissement de conformité pour les développeurs qui utilisent ces versions. Aucune correction technique immédiate n’a été annoncée dans le compte rendu consulté ici.

On ignore si un correctif logiciel, une mise à jour des modèles ou des restrictions d’accès sont planifiés pour éliminer le contournement à terme.

Impacts et incertitudes

Le cas soulève plusieurs questions opérationnelles et juridiques, sans réponses définitives dans le signalement :

• Portée du contournement : on ne sait pas combien d’applications ou d’utilisateurs sont exposés, ni si ce contournement est exploité en pratique.
• Détection et fiabilité : il demeure incertain si la modification du paramètre laisse des empreintes qui permettraient tout de même une attribution ou une détection postérieure.
• Responsabilité et conformité : l’affichage d’un avertissement par le fournisseur peut suffire administrativement, mais la conformité réelle dépendra des interprétations des autorités et des critères techniques exigés par la réglementation.

Ces incertitudes signifient que la situation nécessite une surveillance continue, tant côté fournisseurs que côté utilisateurs.

Que faire si vous utilisez Claude dans vos services ?

Sans attendre des clarifications, voici des mesures pragmatiques que les équipes techniques et juridiques peuvent envisager :

• Vérifier précisément les versions des modèles en production (notamment Opus 4.6 et Sonnet 4.6) et documenter leur usage.
• Contacter le fournisseur pour obtenir des informations techniques détaillées et un calendrier de corrections éventuelles.
• Évaluer les risques juridiques et contractuels liés à l’utilisation de versions potentiellement contournables face aux obligations de traçabilité.
• Mettre en place des contrôles supplémentaires de sortie (post-processing, journalisation des requêtes) pour accroître la traçabilité si nécessaire.

Ce que dit The Decoder — et ce qu’on ignore

Les éléments repris ici proviennent d’une publication de The Decoder qui rapporte l’extension du watermark et la faille sur Opus 4.6 et Sonnet 4.6. Le compte rendu ne donne pas de détails techniques approfondis sur le paramètre en question, ni d’indication sur la proportion d’utilisateurs affectés.

Par conséquent, plusieurs points restent à confirmer : l’ampleur réelle du contournement, la manière dont Anthropic entend y remédier techniquement, et l’analyse finale des autorités compétentes quant à la conformité au regard de l’AI Act.

Point de vigilance : cet épisode illustre la difficulté de concilier déploiement rapide de protections embarquées et gestion des versions héritées. Les entreprises qui s’appuient sur des modèles tiers doivent combiner veille technique et gouvernance réglementaire.