Exercícios

Ética foca na manutenção da ordem social, enquanto lei foca em princípios morais.

Ética é aplicada por instituições governamentais, enquanto lei é baseada em orientação moral.

Ética é universalmente aplicável, enquanto lei varia entre diferentes culturas.

Ética é subjetiva e não vinculante, enquanto lei é formal e vinculante.

Potencial de viés e discriminação

Privacidade e proteção de dados

Aumento do custo de hardware

Armas autônomas

O processo de treinar modelos de IA com grandes volumes de dados.

O conjunto de políticas, processos e controles para garantir o uso ético, transparente e responsável da IA.

A regulamentação governamental que proíbe o uso de IA em aplicações de alto risco.

O algoritmo que determina como a IA toma decisões.

Um algoritmo de aprendizado de máquina para detecção de viés.

Um padrão internacional para sistemas de gestão de IA nas organizações.

Uma lei europeia de regulamentação da IA.

Um framework de análise de riscos desenvolvido pelo NIST.

Autorrevisão (Self-review)

Intimidação (Intimidation)

Interesse próprio (Self-interest)

Advocacia (Advocacy)

Abertura (Openness)

Tratamento de viés (Dealing with bias)

Explicabilidade (Explainability)

Confiabilidade (Trustworthiness)

Publicar o código-fonte de todos os modelos de IA.

Garantir que processos, critérios de decisão e fontes de dados sejam documentados e acessíveis aos stakeholders.

Permitir que qualquer pessoa modifique os modelos de IA.

Treinar modelos apenas com dados públicos.

São leis que obrigam empresas a seguir regras específicas de IA.

Direcionam o desenvolvimento responsável da IA e criam um referencial comum para todos os envolvidos.

Substituem a necessidade de governança de IA nas organizações.

São algoritmos que automatizam a verificação ética de sistemas de IA.

Conflito de interesse

Interesse próprio

Autorrevisão

Advocacia

Porque os desenvolvedores não têm competência técnica para revisar seus próprios sistemas.

Porque criadores podem ter pontos cegos ao revisar seu próprio trabalho, e auditorias externas garantem imparcialidade.

Porque são exigidas por lei em todos os países.

Porque reduzem o custo de desenvolvimento de IA.

Interesse próprio

Advocacia

Intimidação

Autorrevisão

Abertura = documentar critérios de decisão; Transparência = compartilhar metodologias com a comunidade.

Abertura = pesquisa aberta e revisão por pares; Transparência = processos e critérios documentados e acessíveis.

Abertura = usar modelos interpretáveis; Transparência = testar rigorosamente os modelos.

Abertura = mitigar viés; Transparência = usar algoritmos eficientes.

Interesse próprio

Intimidação

Autorrevisão

Advocacia

Porque fornecedores são sempre menos competentes que a organização contratante.

Porque riscos éticos podem surgir em qualquer parte da cadeia de desenvolvimento, não apenas internamente.

Porque a lei exige que todos os fornecedores sejam certificados ISO.

Porque fornecedores são responsáveis por definir a estratégia ética da organização.

Tratamento de viés

Transparência

Maximização de lucro

Explicabilidade

Garantir o uso ético, transparente e responsável de sistemas de IA.

Acelerar o desenvolvimento de tecnologias de IA.

Reduzir o custo de implementação da IA.

Promover a monopolização da IA por empresas líderes.

Sistemas de IA eliminam inerentemente todas as formas de viés presentes nos dados.

Sistemas de IA podem inadvertidamente aprender e perpetuar vieses presentes nos dados de treinamento, levando a tratamento injusto.

Sistemas de IA são projetados para tratar todos os indivíduos igualmente, independentemente de seus atributos.

Sistemas de IA são imunes a vieses se treinados com um dataset grande.

I, II, III e IV

I, III e IV apenas

I e IV apenas

II e III apenas

Um pesquisador publica seu modelo em código aberto para revisão por pares.

Um desenvolvedor que possui ações de uma empresa concorrente projeta um modelo que sistematicamente desfavorece essa concorrente.

Uma equipe realiza testes rigorosos antes de implantar um sistema de IA.

Uma organização documenta os critérios de decisão de seus modelos de IA.