Reuters : le personnel d'OpenAI tirait la sonnette d'alarme sur la sécurité interne dès avant ChatGPT

Des employés d'OpenAI ont averti pendant des années la direction et le conseil d'administration de la faiblesse de la sécurité interne, dès avant le lancement de ChatGPT fin 2022. C'est ce que rapporte Reuters sur la base de cinq sources, dans un article repris notamment par MarketScreener et Unite.AI. Selon ces sources, la direction a privilégié la vitesse dans la course face aux concurrents. Elles citent un vaste dépôt de code unique où toute personne y ayant accès pouvait voir les détails de nombreux projets, ainsi que des outils internes, comme des environnements de test de modèles, qui n'étaient pas régulièrement contrôlés.

Ces révélations font suite à l'arrestation en octobre d'un ingénieur d'OpenAI qui, selon le ministère américain de la Justice, avait placé un enregistreur caché dans une salle de réunion de la direction. Il est inculpé, pas condamné. Reuters évoque aussi une note de 2023 dans laquelle le chercheur de l'époque Leopold Aschenbrenner mettait en garde contre une infiltration chinoise.

OpenAI affirme investir massivement dans la sécurité, assure que son code le plus sensible et les poids de ses modèles ne se trouvent pas dans ce dépôt et que les outils internes sont désormais contrôlés régulièrement. Selon Unite.AI, l'entreprise a annoncé un nouveau chantier de sécurité interne avec Cathedral, une start-up fondée par d'anciens membres du DOGE, et multiplie par plus de quatre les primes pour le signalement de failles critiques.