Regulamento Europeu de IA (EU AI Act)
O Regulamento Europeu de IA é a lei abrangente e baseada em risco da União Europeia para a inteligência artificial. Classifica os sistemas de IA em níveis de risco —inaceitável (proibido), alto risco (obrigações estritas), risco limitado (deveres de transparência) e risco mínimo— e adiciona obrigações específicas para os modelos de IA de propósito geral. Aplica-se de forma extraterritorial a quem comercializa IA no mercado da UE e entra em vigor de forma faseada, com sanções de até 7% do faturamento anual mundial nas infrações mais graves.
Definição
O Regulamento Europeu de IA é uma norma europeia horizontal que governa a IA por nível de risco, impondo obrigações a fornecedores e implantadores proporcionais ao risco que o sistema representa para a saúde, a segurança e os direitos fundamentais.
Escopo
Fornecedores e implantadores que comercializem sistemas de IA ou modelos de IA de propósito geral no mercado da UE ou cuja saída seja usada na UE, independentemente de onde estejam estabelecidos. Alguns usos (ex.: puramente pessoais, certa pesquisa) ficam fora do escopo.
Requisitos-chave
- Níveis baseados em risco: inaceitável (proibido), alto risco, risco limitado (transparência), risco mínimo.
- As práticas proibidas incluem a pontuação social e certos usos biométricos e manipuladores.
- Os sistemas de alto risco exigem gestão de risco, governança de dados, documentação técnica, registros, supervisão humana, precisão/robustez e vigilância pós-mercado.
- Os modelos de IA de propósito geral (GPAI) têm sua própria transparência e, os de risco sistêmico, obrigações adicionais.
- Deveres de transparência: é preciso avisar o usuário quando ele interage com IA e marcar o conteúdo sintético.
- Aplicação faseada com sanções significativas por descumprimento.
Controles
- Classificação de risco
- Determine primeiro o nível de cada sistema: ele decide todas as demais obrigações. Classificar mal um sistema de alto risco é o erro inicial mais custoso.
- Supervisão humana (Art. 14)
- Os sistemas de alto risco devem poder ser supervisionados por uma pessoa que possa intervir ou pará-los: a base regulatória dos portões de aprovação humana.
- Documentação técnica e registros
- Mantenha documentação e registros automáticos de eventos para que o sistema seja rastreável e auditável ao longo do seu ciclo de vida.
- Transparência ao usuário
- Revele a interação com IA e rotule o conteúdo gerado ou manipulado por IA (deepfakes).
- Vigilância pós-mercado
- Monitore o desempenho em campo e reporte incidentes graves; a governança não termina na implantação.
Lista de verificação
- 01Inventarie seus sistemas de IA e classifique cada um por nível de risco.
- 02Confirme que nenhum cai em práticas proibidas.
- 03Para os de alto risco, monte gestão de risco, governança de dados e documentação técnica.
- 04Implemente supervisão humana com capacidade de intervir ou parar o sistema.
- 05Habilite registro/rastreabilidade e defina a vigilância pós-mercado e o reporte de incidentes.
- 06Adicione transparência ao usuário e rotulagem de conteúdo onde for exigido.
- 07Acompanhe as datas de aplicação faseada que afetam seus sistemas.
Erros comuns
- Supor que o Regulamento não se aplica por estar fora da UE: ele é extraterritorial.
- Tratar as obrigações de GPAI como idênticas às dos sistemas de IA; são distintas.
- Adicionar uma supervisão humana que na verdade não consegue intervir a tempo.
- Documentar de menos: a falta de documentação técnica e registros é uma lacuna comum.
Exemplos
- Uma ferramenta de triagem de candidatos classificada como alto risco, que exige documentação, supervisão humana e monitoramento.
- Um chatbot que adiciona um aviso claro de 'você está falando com uma IA' para cumprir os deveres de transparência.
- Um fornecedor de GPAI que publica a documentação do modelo e um resumo dos dados de treinamento.
FAQs
- O Regulamento se aplica a empresas fora da UE?
- Sim. Aplica-se a fornecedores e implantadores cujos sistemas de IA sejam comercializados no mercado da UE ou cuja saída seja usada na UE, independentemente de onde a empresa esteja.
- O que é um sistema de IA de 'alto risco'?
- Sistemas usados em áreas sensíveis (ex.: emprego, crédito, infraestrutura crítica, certos usos biométricos) ou como componentes de segurança de produtos regulados. Têm as obrigações mais estritas aquém da proibição.
- Como se relaciona com o human-in-the-loop?
- O Artigo 14 exige supervisão humana efetiva para os sistemas de alto risco: uma pessoa capaz de entender, intervir ou parar o sistema. O padrão de portão de aprovação humana é uma forma de implementá-lo.