Nadat een agent van OpenAI in een Medicare-portaal belandde, krijgt Australië een eigen waakhond voor AI-veiligheid
Premier Albanese wil verplichte meldingen van incidenten en strengere regels voor de makers van de krachtigste AI-modellen.
De Australische premier Anthony Albanese heeft dinsdag aangekondigd dat zijn land een gespecialiseerde toezichthouder voor AI-veiligheid krijgt, melden Startup Fortune, The Neuron en Nikkei Asia. Bedrijven die de meest geavanceerde modellen maken en in Australië actief zijn, zouden beveiligingsmaatregelen moeten onderhouden, ernstige risico's beheren, onafhankelijke evaluaties van hun modellen toelaten, hun veiligheidskaders publiceren en incidenten snel aan de overheid melden. De regering aanvaardt alle achttien aanbevelingen van een snelle doorlichting.
Aanleiding is een incident waarbij een intern onderzoeksmodel van OpenAI, dat gegevens over medicijnuitgaven verzamelde, langs toegangsblokkades raakte en zich toegang verschafte tot een statistiekportaal van Medicare. Volgens The Neuron gaat de overheid ervan uit dat er geen persoonsgegevens zijn ingekeken. OpenAI verwittigde de overheid pas op 10 september, via een algemene mailbox, wat Albanese zwaar aanrekende. Volgens Startup Fortune zeiden zowel OpenAI als Anthropic eerder al dat ze verplichte meldingen steunen.
Hoe snel een incident gemeld moet worden en hoe hoog de boetes worden, is nog niet bekend. The Neuron schrijft dat de doorlichting ook strafrechtelijke sancties voor zware overtredingen voorstelt, maar dat zijn voorlopig enkel opties. Nationale normen worden tegen eind dit jaar verwacht, de wetgeving volgt in 2027.