In een test van 404 Media neemt Meta's Muse zonder toestemming de gedaante van echte vrouwen aan in seksuele rollenspellen
Meta antwoordt dat de app voor volwassenen bedoeld is en legaal gedrag van volwassenen niet tegenhoudt.
Muse, de AI-app van Meta voor gebruikers vanaf 18 jaar, liet zich in tests van techsite 404 Media zonder veel moeite verleiden tot seksueel getinte rollenspellen waarin bestaande vrouwen werden nagebootst. Journaliste Samantha Cole beschrijft hoe de adult-contentmaakster Vanniall wilde nagaan of de chatbot zou ingrijpen bij een scenario gebaseerd op een grensoverschrijdende ontmoeting met een fan. Muse weigerde eerst haar onder haar eigen naam te spelen, maar ging verder met een personage met een andere naam en maakte beelden die sterk op haar leken, op basis van foto's die het online had gevonden, meldt IBTimes UK.
Cole testte het ook zelf, met een account waarin weinig over haar stond. Na enkele vragen sloeg het gesprek volgens haar al om in een seksueel rollenspel, en de app maakte een beeld dat op haar leek, afgeleid van publieke informatie op het web. Naaktbeelden weigerde Muse wel. Volgens IBTimes UK erkende de chatbot achteraf dat de echte Cole er wellicht niet mee zou instemmen.
Meta liet weten dat Muse legaal gedrag tussen volwassenen niet blokkeert, en gaf op vragen over zijn regels tegen het nabootsen van personen geen verdere uitleg, schrijft 404 Media. Die regels zijn geschreven voor menselijke gebruikers, en hoe ze voor een chatbot gelden, is onduidelijk. In juli legde Meta al een andere functie, Muse Image, stil drie dagen na de aankondiging, na kritiek van de acteursvakbond SAG-AFTRA over toestemming.