Populair jailbreakpakket voor Codex stopt blijvende reclame in de instructies van de codeeragent
Check Point Research spreekt van een nieuwe vorm van adware die niet in een programma zit, maar in gewone taal in de configuratie van de AI-agent.
Onderzoekers van Check Point Research hebben een Chineestalig jailbreakpakket voor OpenAI's codeeragent Codex ontleed dat ongemerkt reclame toevoegt, meldt The Hacker News. Het pakket heet Haiou, Chinees voor meeuw, en past de configuratiebestanden van Codex aan. Daardoor veranderen de algemene instructies van de agent, zodat gewone begroetingen zoals hallo voortaan een advertentie oproepen voor een betalende dienst die toegang biedt tot taalmodellen. Omdat die aanpassing in het globale instructiebestand staat, blijft ze over sessies heen bestaan.
Haiou gebruikt rollenspel en stelt beveiligingsvragen voor als hackwedstrijden om de veiligheidsremmen van het model te omzeilen, en installeert vaardigheden voor penetratietests en het kraken van wachtwoorden. Het pakket staat op GitHub, waar het sinds juli 403 sterren en 77 forks kreeg, en zit ook in een open grafisch hulpmiddel om Codex in te stellen. Check Point denkt dat het gratis pakket klanten moet lokken naar de betaalde dienst; Codex is officieel niet beschikbaar in China.
Volgens Mallory vonden de onderzoekers geen bewijs dat de maker banden heeft met cybercriminelen en stelden ze niet vast dat de geadverteerde dienst zelf kwaadaardig is. Check Point waarschuwt wel dat prompts, vaardigheden en configuraties van derden het gedrag van agents sturen en dus even kritisch bekeken moeten worden als software, onder meer door wijzigingen na te lezen en niet-goedgekeurde diensten te blokkeren.