Caso de agente da OpenAI que acessou sistema público de saúde na Austrália acende debate sobre limites da tecnologia. Lula cobra regras internacionais
Um agente de inteligência artificial desenvolvido pela OpenAI acessou, em junho, arquivos públicos e não públicos de um portal do sistema público de saúde da Austrália. O episódio levou o governo australiano a anunciar, nesta quinta-feira (24), uma investigação sobre o caso e sobre a capacidade das atuais leis de lidar com sistemas que agem de forma autônoma.
O caso ocorre em meio ao avanço da inteligência artificial e à crescente preocupação internacional com os riscos de sistemas capazes de executar tarefas, identificar vulnerabilidades e interagir com ambientes digitais sem intervenção humana direta. O tema ganhou espaço na Organização das Nações Unidas (ONU), onde governos e especialistas discutem mecanismos de segurança, responsabilização e governança da tecnologia.
Foi nesse cenário que o presidente Luiz Inácio Lula da Silva defendeu, na terça-feira (22), durante a 81ª Assembleia Geral da ONU, a regulamentação das grandes empresas de tecnologia e a criação de regras e de uma governança internacional para o uso da inteligência artificial.
“Vivemos uma revolução tecnológica sem precedentes, com grandes riscos e oportunidades. Um punhado de tecno-oligarcas quer ressuscitar uma versão de neoliberalismo digital, sem regras nem transparência”, afirmou Lula.
O presidente também criticou a transferência de responsabilidades para os usuários diante dos efeitos provocados pelos sistemas digitais. “Empresas que conhecem os riscos de seus produtos transferem para as famílias a impossível tarefa de enfrentar os algoritmos”, disse.
No mesmo dia, o presidente dos Estados Unidos, Donald Trump, adotou posição diferente e rejeitou a criação de uma estrutura internacional para controlar a inteligência artificial. A posição seria reiterada no dia seguinte por seu assessor de ciência e tecnologia, Michael Kratsios, durante reunião do Conselho de Segurança da ONU.
Na quarta-feira (23), um dia depois do discurso de Lula, a inteligência artificial entrou na pauta do Conselho de Segurança da ONU. Executivos e especialistas alertaram os integrantes do órgão sobre os riscos associados ao avanço dos sistemas e defenderam maior cooperação entre os governos. A reunião foi convocada pela França durante a Assembleia Geral.
O presidente-executivo da Anthropic, Dario Amodei, afirmou que, se for mal administrada, a inteligência artificial pode representar um risco para a humanidade. O presidente-executivo da OpenAI, Sam Altman, também defendeu a cooperação internacional e afirmou que decisões importantes sobre o futuro da tecnologia não podem ficar restritas aos laboratórios privados.
O pesquisador canadense Yoshua Bengio, copresidente do painel científico internacional independente sobre IA criado pela Assembleia Geral da ONU, reforçou que os riscos associados à tecnologia ultrapassam fronteiras nacionais e não podem ser enfrentados isoladamente por um único país.
A discussão ganhou um exemplo concreto com o relato de Clément Delangue, cofundador da Hugging Face. Segundo ele, agentes de IA da OpenAI deixaram um ambiente de testes e acessaram a infraestrutura da empresa. O episódio expôs os novos desafios de segurança provocados por sistemas capazes de agir de forma autônoma.
O acesso ao sistema australiano ocorreu em 18 de junho, no portal de estatísticas do Medicare administrado pela Services Australia, enquanto o agente realizava uma investigação sobre gastos públicos com medicamentos.
Segundo o Centro Australiano de Cibersegurança (ASD), o sistema identificou vulnerabilidades de forma autônoma e acessou arquivos públicos e não públicos. O órgão afirmou não haver indícios de que a atividade representasse uma ameaça mais ampla ou um ataque malicioso contra a Austrália, mas ressaltou a importância de práticas seguras de implementação de IA e de estruturas sólidas de cibersegurança.
O governo australiano anunciou a investigação nesta quinta-feira (24) para verificar se houve violação das leis e avaliar se o atual marco jurídico é adequado para lidar com sistemas capazes de identificar vulnerabilidades e interagir autonomamente com ambientes digitais.
O governo afirmou que não havia evidências de acesso a registros pessoais de pacientes. A OpenAI também declarou que sua análise não encontrou provas de acesso a registros de pacientes e que as informações obtidas incluíam estatísticas de saúde e nomes de arquivos internos.
O episódio evidencia um dos principais desafios da expansão da IA: definir responsabilidades quando sistemas autônomos ultrapassam os limites previstos e provocam consequências sobre usuários, empresas ou serviços públicos.
Apesar da preocupação internacional com os riscos da tecnologia, os governos ainda divergem sobre como deve funcionar sua governança.
Enquanto os Estados Unidos defendem o desenvolvimento de capacidades nacionais e o compartilhamento de boas práticas, a China defende o aperfeiçoamento das regras, mecanismos de resposta a emergências e maior cooperação entre os países.
O secretário-geral da ONU, António Guterres, também vem defendendo uma estrutura global de governança para a inteligência artificial. Na terça-feira (22), durante seu último discurso na Assembleia Geral como secretário-geral, voltou a defender um sistema multilateral de gerenciamento dos riscos da IA, com supervisão independente.
A inteligência artificial é tratada pelo programa de governo de Lula como uma área estratégica para o desenvolvimento econômico e a soberania do país. A proposta combina investimentos em ciência e tecnologia, infraestrutura nacional de dados e inteligência artificial, formação de profissionais e redução da dependência tecnológica externa. Entre as prioridades estão semicondutores, software e IA. Outro eixo é a regulação democrática das Big Techs. O programa defende regras para as grandes plataformas digitais, proteção de dados, combate à desinformação e maior transparência sobre o funcionamento das tecnologias. A proposta também prevê o uso de IA pelo Estado para melhorar serviços públicos e ampliar a capacidade brasileira de desenvolver tecnologias próprias.