mardi 17 novembre 2026 Édition compilée à 07h40 NL EN FR
← Tech · IA & LLM
Tech · IA & LLMProtection de l'enfance

OpenAI ouvre à d'autres entreprises un détecteur gratuit d'images d'abus sur enfants

L'outil reconnaît aussi les images générées par IA; quiconque tente d'obtenir de tels contenus dans ChatGPT sera désormais suspendu pendant une journée.

· dernière mise à jour des sources ma · 2 sources · TechCrunch, OpenAI
Illustration de cet article

OpenAI a publié un classificateur d'images destiné à repérer le matériel d'abus sexuels sur enfants, y compris des images générées par IA qui ne sont répertoriées nulle part. Selon TechCrunch, le système attribue à chaque image un score qui aide les modérateurs à décider de la suite à donner. Il a été développé avec le National Center for Missing and Exploited Children (NCMEC) américain. Des entreprises sélectionnées y ont accès gratuitement via l'API, et OpenAI collabore avec la Tech Coalition et ROOST pour élargir cet accès.

Lors de tests avec des partenaires, le classificateur a signalé 48% d'images en moins tout en trouvant autant de contenus abusifs, rapporte TechCrunch, si bien que les images signalées étaient deux fois plus souvent réellement abusives. Cela allège le travail des personnes chargées de les vérifier. La documentation pour développeurs d'OpenAI indique que les organisations doivent introduire une demande, passer une vérification d'identité via Persona et accepter des conditions. Cette même documentation précise que le modèle de modération standard d'OpenAI n'évalue que du texte dans cette catégorie, pas des images.

Quiconque tente d'obtenir dans ChatGPT des contenus sexualisant des enfants recevra désormais un avertissement, une orientation vers une aide spécialisée et une suspension de 24 heures; en cas de récidive, le compte peut être supprimé définitivement. Ces messages ont été conçus avec Protect Children, la Lucy Faithfull Foundation et le chercheur Joel Scanlan de l'université de Tasmanie. TechCrunch rappelle qu'OpenAI fait face à plusieurs procès pour des préjudices causés à des utilisateurs, surtout des enfants.

Une erreur dans cet article ? Signalez-la.