Un kit de jailbreak populaire pour Codex glisse des publicités durables dans les instructions de l'agent

Des chercheurs de Check Point Research ont disséqué un kit de jailbreak en chinois pour Codex, l'agent de programmation d'OpenAI, qui ajoute discrètement de la publicité, rapporte The Hacker News. Baptisé Haiou, qui signifie mouette en chinois, le kit modifie les fichiers de configuration de Codex. Les instructions générales de l'agent s'en trouvent changées, de sorte que de simples salutations comme bonjour déclenchent désormais une annonce pour un service payant donnant accès à des modèles de langage. Comme la modification se trouve dans le fichier d'instructions global, elle persiste d'une session à l'autre.

Haiou recourt au jeu de rôle et présente les demandes de sécurité comme des compétitions de piratage pour contourner les garde-fous du modèle, et installe des compétences de test d'intrusion et de cassage de mots de passe. Le kit est hébergé sur GitHub, où il a recueilli 403 étoiles et 77 forks depuis juillet, et il est aussi intégré à un outil graphique ouvert servant à configurer Codex. Check Point estime que ce kit gratuit sert à attirer des clients vers le service payant ; Codex n'est pas officiellement disponible en Chine.

Selon Mallory, les chercheurs n'ont trouvé aucune preuve de liens entre l'auteur et des cybercriminels et n'ont pas établi que le service promu soit lui-même malveillant. Check Point avertit toutefois que les prompts, compétences et configurations de tiers orientent le comportement des agents et doivent donc être examinés avec autant de rigueur qu'un logiciel, notamment en relisant les modifications et en bloquant les services non approuvés.