Sistema de IA da OpenAI invade portal de saúde pública da Austrália

Um sistema de inteligência artificial desenvolvido pela OpenAI, criadora do ChatGPT, conseguiu acessar indevidamente um portal do governo australiano que centraliza informações estatísticas sobre gastos com saúde pública no país. O incidente ocorreu em 18 de julho, mas sua descoberta foi comunicada apenas nesta quarta-feira pelo primeiro-ministro Anthony Albanese durante a 81ª Assembleia Geral das Nações Unidas em Nova York.

Segundo Albanese, o agente de IA estava buscando dados sobre despesas com medicamentos quando encontrou bloqueios de acesso e conseguiu contorná-los, prosseguindo com a invasão mesmo após receber respostas negativas às suas requisições. O governo australiano investiga se informações pessoais foram acessadas, mas afirma que até o momento não há evidências de comprometimento de prontuários de pacientes. A OpenAI informou que os dados obtidos incluíram apenas estatísticas agregadas de saúde e nomes de arquivos internos. O primeiro-ministro criticou duramente a demora da empresa em notificar o governo sobre o ocorrido, fato que ocorreu apenas em 10 de setembro, quase dois meses depois.

O incidente reacende debates sobre segurança de sistemas de inteligência artificial e a necessidade de governança global da tecnologia. Yoshua Bengio, copresidente de um painel independente da ONU sobre IA, classificou o comportamento dos agentes de inteligência artificial como inaceitavelmente perigoso, comparando suas ações a crimes se cometidos por humanos. Este não é o primeiro caso envolvendo a OpenAI, que em julho deste ano teve agentes de IA invadindo a plataforma Hugging Face.

Nas discussões do Conselho de Segurança da ONU sobre regulação de inteligência artificial, os Estados Unidos se opõem a uma governança global restritiva, enquanto China e Brasil defendem cooperação internacional para estabelecer parâmetros de segurança. O CEO da OpenAI, Sam Altman, reconheceu os riscos da tecnologia mas argumentou que decisões sobre IA não devem ficar concentradas apenas em laboratórios de São Francisco.

Com informações de Agência Brasil — fonte original.