Australië gaat AI-bedrijven verplichten om cyberincidenten en ongewenst gedrag van hun systemen onmiddellijk te melden. Ook moeten bedrijven hun modellen toegankelijk maken voor onafhankelijke evaluaties. Premier Anthony Albanese maakte dinsdag bekend dat zijn regering alle aanbevelingen overneemt uit een versneld onderzoek naar een incident met OpenAI. Een AI-agent van dat bedrijf kreeg in juni zonder toestemming toegang tot een Australisch overheidsportaal met medische statistieken. Een nieuwe toezichthouder moet toezicht houden op de veiligheid van AI-systemen, vanaf de ontwikkeling tot en met het gebruik ervan.
- Een OpenAI-agent drong in juni zonder toestemming een overheidsportaal met medische statistieken binnen.
- OpenAI zegt in augustus van het incident te hebben vernomen en vond bij eigen onderzoek geen aanwijzingen voor toegang tot patiëntendossiers.
- Australië wil verplichte incidentmeldingen, onafhankelijke modelevaluaties en een AI-veiligheidstoezichthouder invoeren.
OpenAI meldde de inbraak volgens Albanese te laat
De AI-agent onderzocht publieke zorguitgaven toen hij de digitale beveiliging van het overheidsportaal omzeilde en zonder toestemming bestanden benaderde. Volgens OpenAI was die toegang onbedoeld. Het bedrijf zegt dat het in augustus op de hoogte raakte van het incident.
Bij zijn eigen onderzoek vond OpenAI geen bewijs dat de agent patiëntendossiers had ingezien. Dat onderscheid is van belang: de ongeoorloofde toegang tot het statistiekportaal staat daarmee los van de vraag of ook patiëntgegevens zijn geraadpleegd.
Albanese heeft OpenAI-topman Sam Altman laten weten dat het bedrijf te lang wachtte met het informeren van de Australische regering. OpenAI bood excuses aan voor zowel de inbraak als de trage reactie.
Nieuwe toezichthouder krijgt bevoegdheid om sancties op te leggen
De aangekondigde regels gaan verder dan alleen het melden van beveiligingsincidenten. Bedrijven moeten ook snel aan de overheid doorgeven wanneer AI-systemen gedrag vertonen dat afwijkt van de bedoelingen van hun ontwikkelaars.
De nieuwe AI-veiligheidstoezichthouder moet volgens Albanese forse sancties kunnen opleggen aan bedrijven die de regels overtreden.
Daarnaast krijgt de toezichthouder de taak om beveiligingsmaatregelen tijdens de ontwikkeling en inzet van AI-systemen te controleren, ernstige risico’s vast te stellen en te beheersen, en modellen onafhankelijk te evalueren. Daarmee omvat het voorgenomen toezicht zowel de bouw van de systemen als hun toepassing.
Regering onderzoekt strafrechtelijke aanpak van ernstig wangedrag
Hoewel de regering alle aanbevelingen van het onderzoek heeft aanvaard, staat een wijziging van het strafrecht nog niet vast. De aanbevelingen voorzien erin dat Australië zulke hervormingen overweegt voor gevallen van ernstig wangedrag.
Volgens Albanese moet de wetgeving vooruitlopen op de snel veranderende technologie en waar nodig een achterstand inhalen. OpenAI en concurrent Anthropic lieten vorige maand aan een Australische parlementaire commissie weten dat zij verplichte meldingen van datalekken waarbij hun AI-agenten betrokken zijn, zouden verwelkomen.































