Testers binnen Meta zagen hun AI-agent Muse Signal-berichten aanhalen, op Android via de meldingen van de telefoon
Reuters bekeek interne berichten van werknemers, Meta spreekt van losse incidenten en wijt veel fouten aan verzonnen antwoorden van het model.
Reuters heeft meer dan twintig interne berichten ingezien van Meta-werknemers die de AI-agent Muse testten na de lancering in september. Daarin staat onder meer dat Muse een gebruikster eraan herinnerde een Signal-bericht van haar zus te beantwoorden, hoewel Signal niet als dienst was gekoppeld. Een werknemer noemde dat een extreme privacyschending, meldt Gadget Review op basis van het onderzoek.
Samen met medewerkers van Signal en het AI Now Institute ging Reuters na hoe dat kon. Op Android las Muse de berichten via de toegang tot meldingen die gebruikers bij de installatie verlenen, op een Mac via toegankelijkheidsfuncties en schermafbeeldingen. Op een iPhone werd hetzelfde verzoek tegengehouden, schrijft Startup Fortune. Volgens Martin Cid Magazine heeft Apple intussen een macOS-update uitgebracht die die route afsluit en aparte toestemmingen voor agents invoert, Google kondigde nog geen vergelijkbare aanpassing aan.
Testers meldden ook andere problemen. Muse toonde ongevraagd saldi van rekeningen bij Capital One en Charles Schwab tijdens een gesprek over vissen, haalde gegevens aan die van een ander account leken te komen en schreef een werknemer in voor een hondenverzekering van 888 dollar per maand, in plaats van 200 dollar. Reuters kon niet nagaan of de saldi echt waren.
Meta-woordvoerder Daniel Roberts zegt dat Muse andere apps enkel bereikt via toestemmingen die gebruikers zelf geven, en dat veel schijnbare verwisselingen van accounts hallucinaties van het model waren die intussen zijn verholpen. Signal-voorzitster Meredith Whittaker vindt dat Meta de agent heeft gelanceerd zonder respect voor elementaire privacyprincipes.