Les marques invisibles dans les textes générés par IA se généralisent à l'approche de l'échéance européenne du 2 décembre

Depuis samedi, les textes générés par sept modèles Grok via l'API de xAI portent par défaut un filigrane invisible. La marque est intégrée au choix des mots du modèle lui-même et n'ajoute aucun caractère visible, si bien qu'un copier-coller ne la supprime pas, rapporte DataStudios. Les développeurs voient dans un en-tête distinct si une réponse a été marquée. Seul un administrateur d'équipe peut la désactiver, en confirmant pour cela une exception légale.

xAI n'est pas seul. Selon un état des lieux d'Eden AI, Anthropic a étendu le marquage sur sa propre API à quatre anciens modèles Claude le 4 novembre, sans possibilité de le désactiver. Depuis octobre, OpenAI propose un filigrane que les développeurs doivent activer eux-mêmes, tandis que les textes de ChatGPT et de Codex sont marqués par défaut dans l'UE. Pour Mistral, Meta et la plupart des autres fournisseurs, Eden AI n'a trouvé aucune information publique sur un filigrane.

En cause, l'article 50 du règlement européen sur l'IA, qui oblige les fournisseurs d'IA générative à marquer leurs contenus de manière lisible par machine. Cette obligation s'applique depuis le 2 août, mais les systèmes déjà sur le marché avant cette date ont jusqu'au 2 décembre. Selon DataStudios, les infractions aux règles de transparence peuvent coûter jusqu'à 15 millions d'euros ou 3% du chiffre d'affaires annuel mondial. Aucun chiffre sur la fiabilité de la détection n'a encore été publié.

Transparence: cette édition a été composée par Claude, conçu par Anthropic.