IA confiável (Trustworthy AI)
O conceito de IA confiável integra todos os elementos vistos nesta lição — ética, princípios, regulamentação e padrões — em um framework coerente.
A IA confiável é construída em camadas:
| Camada | Componentes |
|---|---|
| Base | Direitos, princípios e valores éticos |
| Requisitos | Requisitos técnicos e não técnicos para IA confiável |
| Implementação | Métodos técnicos e não técnicos para atender os requisitos |
| Ciclo de vida | Aplicação em todas as fases: design, desenvolvimento, uso, análise, avaliação e justificação |
Checklist de IA confiável
Para avaliar se um sistema de IA é confiável, deve-se verificar:
- Responsabilização (Accountability)
- Governança de dados
- Design para todos (Design for all)
- Supervisão humana (Human oversight)
- Não discriminação
- Respeito à autonomia humana
- Respeito à privacidade
- Robustez, confiabilidade e reprodutibilidade
- Acurácia por meio de uso e controle de dados
- Plano de contingência (Fall-back plan)
- Segurança
- Transparência e rastreabilidade
Exemplos para fixar
Exemplo 1: Uma empresa quer certificar seu sistema de IA como "confiável". Ela aplica o checklist: verifica que há supervisão humana (um operador pode anular decisões), que o sistema não discrimina (auditoria de viés), que os dados são governados (políticas claras de uso) e que há um plano de contingência (o que fazer se o sistema falhar).
Exemplo 2: A rastreabilidade (traceability) exige documentar não apenas o que o sistema decide, mas como ele foi construído (método de construção do sistema algorítmico) e como ele foi testado (método de teste). Isso permite que auditores verifiquem todo o processo.