EU AI Act: abordagem baseada em risco
O EU AI Act classifica sistemas de IA em quatro categorias de risco:
| Categoria | Tratamento | Exemplos |
|---|---|---|
| Risco inaceitável | Proibido | Manipulação cognitiva comportamental, pontuação social, identificação biométrica em tempo real |
| Alto risco | Avaliação de conformidade, monitoramento pós-mercado | Sistemas em produtos de segurança, IA em áreas específicas registradas em banco de dados da UE |
| Risco de transparência | Obrigação de informação e transparência | IA generativa (chatbots, deepfakes, conteúdo gerado por IA) |
| Risco mínimo | Sem regulamentação específica | Filtros de spam, sistemas de recomendação comuns |
Risco inaceitável — o que é proibido
- Manipulação cognitiva comportamental — ex.: brinquedos ativados por voz que incentivam comportamento perigoso em crianças
- Pontuação social (social scoring) — classificar pessoas com base em comportamento, status socioeconômico ou características pessoais
- Identificação biométrica — categorização e identificação biométrica em tempo real e remota (ex.: reconhecimento facial em tempo real)
Risco de transparência — o que é exigido
IA generativa (como o ChatGPT) não é classificada como alto risco, mas precisa cumprir requisitos de transparência:
- Divulgar que o conteúdo foi gerado por IA
- Projetar o modelo para prevenir geração de conteúdo ilegal
- Publicar resumos dos dados protegidos por direitos autorais usados no treinamento
Exemplos para fixar
Exemplo 1 (Risco inaceitável): Um governo implementa um sistema de IA que atribui uma "pontuação de cidadão" a cada pessoa com base em seu comportamento online e nega serviços públicos a quem tenha pontuação baixa. Pelo EU AI Act, isso é proibido — é classificado como risco inaceitável.
Exemplo 2 (Risco de transparência): Um site usa IA para gerar artigos jornalísticos. Pelo EU AI Act, o site deve informar aos leitores que o conteúdo foi gerado por IA — o leitor tem o direito de saber que não está lendo texto escrito por um humano.
Exemplo 3 (Risco mínimo): O filtro de spam do seu e-mail usa IA para classificar mensagens. Isso é risco mínimo — não há regulamentação específica do EU AI Act para esse tipo de sistema.