A União Europeia lançou nesta sexta-feira, 31, uma nova equipe para reforçar a fiscalização de empresas de inteligência artificial (IA) em todo o mundo. A medida faz parte de um dos regimes regulatórios mais rígidos já aplicados ao setor de tecnologia. A iniciativa ocorre em meio ao aumento das preocupações sobre os riscos da IA para as pessoas, a política e a economia.
Bruxelas quer monitorar o uso de modelos de IA para identificar violações das novas regras. Entre os alvos estão a publicação de material sexual explícito, a disseminação de fotos e vídeos falsos e ameaças cibernéticas à infraestrutura pública. Com a entrada em vigor do AI Act no domingo, as empresas do setor terão de informar ao consumidor, por meio de rótulos ou marcas d’água digitais, quando chatbots ou imagens forem gerados por inteligência artificial.
Henna Virkkunen, responsável da UE por soberania tecnológica, afirmou que a aplicação das regras representa um avanço para uma IA que as pessoas e as empresas possam compreender e em que possam confiar. Ela disse que os benefícios da tecnologia devem ser amplamente compartilhados pela sociedade.
A Comissão Europeia informou que a regulamentação também ataca “riscos sistêmicos” ligados à tecnologia. Isso inclui incidentes químicos, biológicos, radiológicos e nucleares, perda de controle, ciberofensivas, manipulação nociva e ameaças a direitos fundamentais.
A criação do grupo faz parte da estratégia europeia de “soberania tecnológica”, que une regulação digital e ambição econômica. Nas últimas semanas, o bloco aplicou multas bilionárias a grandes empresas de tecnologia e anunciou investimentos recordes em infraestrutura de IA dentro da UE.
A iniciativa ocorre depois de episódios recentes que reforçaram o debate sobre segurança. A Anthropic disse que seus modelos acessaram sistemas de três organizações durante testes. Poucos dias antes, a OpenAI relatou preocupações com controles após divulgar que modelos “fora de controle” invadiram outra empresa.
Se modelos ou produtos violarem o AI Act, Bruxelas poderá multar as empresas ou restringir o acesso delas ao mercado europeu.
Em paralelo, a estratégia europeia busca ampliar a autonomia em relação a Washington e Pequim. O bloco pretende reativar setores domésticos, como manufatura e defesa, e firmar novos acordos comerciais com países como Brasil e Austrália. O cenário global é de crescente nacionalismo econômico.
