Reuters: personeel van OpenAI trok al voor ChatGPT aan de alarmbel over de interne beveiliging
Het bedrijf betwist dat het beveiliging verwaarloosde en kondigt een nieuwe interne veiligheidsronde aan, samen met het startbedrijf Cathedral.
Medewerkers van OpenAI hebben leidinggevenden en het bestuur al jaren gewaarschuwd voor zwakke interne beveiliging, nog van voor de lancering van ChatGPT eind 2022. Dat meldt Reuters op basis van vijf ingewijden, in een stuk dat onder meer MarketScreener en Unite.AI overnamen. Volgens de bronnen gaf het management voorrang aan het tempo in de concurrentiestrijd. Ze wijzen op één grote coderepository waarin wie toegang had details van veel projecten kon zien, en op interne tools zoals testomgevingen voor modellen die niet geregeld op veiligheid werden nagekeken.
De onthulling volgt op de arrestatie in oktober van een OpenAI-ingenieur die volgens het Amerikaanse ministerie van Justitie een verborgen opnametoestel in een vergaderzaal van de directie had geplaatst. Hij is aangeklaagd, niet veroordeeld. Reuters vermeldt ook een memo uit 2023 waarin toenmalig onderzoeker Leopold Aschenbrenner waarschuwde voor Chinese infiltratie.
OpenAI zegt dat het zwaar investeert in beveiliging, dat de gevoeligste code en de modelgewichten niet in die repository staan en dat interne tools nu wel geregeld worden doorgelicht. Volgens Unite.AI kondigde het bedrijf een nieuwe interne beveiligingsronde aan met Cathedral, een startbedrijf van oud-medewerkers van DOGE, en verhoogt het de beloningen voor wie kritieke lekken meldt met meer dan het viervoudige.