Princípios de IA do Reino Unido
O governo do Reino Unido estabeleceu cinco princípios para o uso responsável da IA:
| Princípio | O que significa |
|---|---|
| Segurança, proteção e robustez | Sistemas de IA devem funcionar de forma segura e robusta ao longo de todo o seu ciclo de vida, com riscos continuamente identificados e gerenciados |
| Transparência e explicabilidade | Sistemas de IA devem ser apropriadamente transparentes e explicáveis |
| Equidade | Sistemas de IA não devem violar direitos, discriminar injustamente nem criar resultados desiguais no mercado |
| Responsabilidade e governança | Medidas de governança devem garantir supervisão eficaz, com linhas claras de responsabilidade ao longo do ciclo de vida |
| Contestabilidade e reparação | Usuários e terceiros afetados devem poder contestar decisões de IA que sejam prejudiciais e acessar reparação adequada |
Exemplos para fixar
Exemplo 1: Uma empresa usa IA para triagem de currículos. Pelo princípio de equidade, o sistema não pode discriminar candidatos por gênero ou etnia. Pelo princípio de contestabilidade, um candidato rejeitado deve ter como questionar a decisão e buscar reparação.
Exemplo 2: Um carro autônomo sofre uma falha de software que causa um acidente. Pelo princípio de segurança, proteção e robustez, o fabricante deveria ter testado o sistema extensivamente ao longo de todo o ciclo de vida. Pelo princípio de responsabilidade e governança, deve haver linhas claras de responsabilidade — quem responde pelo acidente: o fabricante, o desenvolvedor do software ou o proprietário do veículo?
Exemplo 3: Um hospital usa IA para priorizar pacientes na fila de emergência. Pelo princípio de transparência e explicabilidade, os médicos devem entender como a IA classifica a urgência dos pacientes. Se o sistema priorizasse sistematicamente pacientes jovens em detrimento de idosos, violaria o princípio de equidade.