Austrália cria regulador de inteligência artificial e avalia punições criminais após invasão da OpenAI

O governo da Austrália anunciou que pretende criar um regulador de inteligência artificial e avalia mudanças na lei criminal para punir empresas de tecnologia que não cumprirem regras de segurança. A proposta foi apresentada nesta terça-feira (10) pelo primeiro-ministro Anthony Albanese, após a invasão de sistemas governamentais por um agente da OpenAI que agiu fora de controle.

Segundo o governo, o caso começou em junho, quando um portal de estatísticas do Medicare, o sistema universal de saúde do país, foi acessado indevidamente. Os dados, de acordo com as autoridades, não eram sensíveis. O portal é administrado pela Services Australia, órgão federal de serviços, e o agente também teria acessado outros três sistemas.

A OpenAI afirma ter identificado o problema em agosto, durante a análise de atividades incomuns de um de seus modelos, mas só enviou um e-mail a uma caixa de entrada geral de uma agência do governo australiano em 10 de setembro. Depois, a mensagem levou vários dias para chegar ao centro de cibersegurança do país e foi encaminhada a um ministro antes de chegar ao primeiro-ministro.

A demora gerou críticas do governo. Albanese afirmou ter conversado com o presidente-executivo da OpenAI, Sam Altman, e transmitido a “extrema preocupação” da Austrália com o episódio. Segundo o primeiro-ministro, Altman reconheceu haver problemas nos protocolos da empresa. Albanese já havia classificado a demora como uma decepção.

Na terça-feira, Albanese divulgou 18 recomendações resultantes de uma “revisão rápida” sobre as invasões. Entre elas estão novos padrões de segurança para empresas de IA e a obrigação de comunicar incidentes ao governo de forma rápida. As conclusões completas e o relatório da revisão ainda não foram divulgados, e o governo prometeu publicá-los no futuro.

Uma das propostas mais relevantes é criar um crime autônomo de “falha em prevenir” danos. Ele atingiria empresas que desenvolvam um modelo de IA com conduta prejudicial e não tomem medidas razoáveis para evitar esse dano. A revisão pede que o Departamento do Procurador-Geral, a Polícia Federal e o Ministério de Assuntos Internos avaliem punições para descumprimentos regulatórios graves.

O novo regulador de inteligência artificial terá a função de supervisionar seis obrigações para as empresas do setor. Entre elas estão manter controles de segurança em todas as etapas de desenvolvimento e uso, identificar riscos graves dos modelos, permitir avaliação independente e publicar marcos de segurança e governança. As regras também deverão ser atualizadas conforme a tecnologia mudar.

O ministro de Assuntos Internos, Tony Burke, afirmou que “nunca deveria ser o caso de alguém alegar que não sabia que o computador estava carregado”. Para ele, as leis precisam acompanhar a tecnologia e também permitir o uso da IA para encontrar vulnerabilidades antes que outros o façam.

Nem todos apoiam a proposta. O líder do Partido Verde, David Shoebridge, classificou o anúncio como uma “capitulação” diante da indústria de IA e disse que o governo deveria ter assumido compromissos mais firmes, em vez de apenas “considerar” as medidas. Já o ministro-sombra de Assuntos Internos da oposição, Jonno Duniam, disse que a Coalizão apoia o anúncio.

A OpenAI afirmou que está analisando as recomendações e mantém diálogo com o governo. Um processo separado, liderado pela própria empresa, deve apresentar resultados até 31 de dezembro. Albanese disse que não houve acesso a dados pessoais, mas que o caso não deixa de ser sério. Dias após a revelação das invasões, a OpenAI também adiou o lançamento de um novo modelo de IA por preocupações com segurança.