Viés racial em sistemas de inteligência artificial

desafios para a responsabilidade civil e a necessidade de parametrização do risco

Autores

DOI:

https://doi.org/10.37963/iberc.v6i2.237

Palavras-chave:

algoritmos, inteligência artificial, viés racial, responsabilidade civil, risco

Resumo

Este artigo aborda os desafios para a responsabilização civil por ilícitos relacionados a falhas de sistemas de inteligência artificial enviesados em relação a questões raciais. Explora-se a possibilidade de um algoritmo ser considerado racista – o que não se confirma nas conclusões – e como isso pode causar danos pela ação omissiva de quem não realiza adequada curadoria de dados que conduzem ao viés algorítmico. Além disso, discute-se a necessidade de parametrização normativa baseada na gradação do risco, em linha com o modelo que segue em discussão na União Europeia. A pesquisa utiliza o método dedutivo, com embasamento bibliográfico e revisitação de conceitos teóricos. O objetivo é buscar uma conclusão diante desse tema problemático, considerando a preservação dos direitos humanos e os desafios apresentados pela evolução dos algoritmos e dos sistemas de inteligência artificial.

Downloads

Não há dados estatísticos.

Biografia do Autor

Gustavo Silveira Borges, Universidade do Extremo Sul Catarinense

Doutor em Direito pela Universidade Federal do Rio Grande do Sul - UFRGS (2013 - CAPES 5), tendo realizado Pós-Doutorado em Direito pela Universidade do Vale do Rio dos Sinos - UNISINOS (2014 - CAPES 6), com bolsa de pesquisa PNPD/CAPES. Mestre em Ciências Criminais pela Pontifícia Universidade Católica do Rio Grande do Sul - PUCRS (2007 - CAPES 5). Especialista em Ciências Penais pela PUCRS). Pós-graduado pela Escola da Magistratura do Rio Grande do Sul - AJURIS. Graduado em Ciências Jurídicas e Sociais pela PUCRS. Atualmente, é Professor da Graduação e Pesquisador permanente do Programa de Pós-Graduação em Direito na Universidade do Extremo Sul Catarinense (PPGD/UNESC). É Coordenador e professor da Especialização em Direito Civil e Processo Civil da UNESC. Pesquisador permanente do Programa de Pós-Graduação em Direito (PPGD/UNESC), vinculado à Linha de Pesquisa Direitos Humanos, Cidadania e Novos Direitos e à Área de Concentração Direitos Humanos e Sociedade. Membro associado do CONPEDI (Conselho Nacional de Pesquisa e Pós-Graduação em Direito). Membro do Instituto Brasileiro de Estudos de Responsabilidade Civil - IBERC. Membro titular da Rede Brasileira de Pesquisa Jurídica em Direitos Humanos (UNESC, UNIRITTER, UNIJUÍ, UFMS, PUC-CAMPINAS, UNIT, UNICAP, CESUPA, UFPA) Parecerista em diversas revistas científicas nacionais e internacionais. Pesquisador do Núcleo de Pesquisas em Direitos Humanos e Cidadania (NUPEC/UNESC). Líder do Grupo de Pesquisa "Direitos Humanos e Novas Tecnologias", sediado na mesma instituição, certificado no CNPq. Avaliador do Curso de Instituições e do curso de Direito pelo INEP/MEC. Membro de bancas examinadoras de concurso público. Participa como Consultor (Policy Advisor) no Supremo Tribunal Federal (STF), do Programa de Combate à Desinformação e como Consultor (Policy Advisor) no Tribunal Superior Eleitoral (TSE), do Programa de Enfrentamento à Desinformação no âmbito da Justiça Eleitoral das Eleições 2022, como líder com o Grupo de Pesquisa "Direitos Humanos e Novas Tecnologias", vinculado à Assessoria Especial de Enfrentamento à Desinformação (AEED). Integrante do "Comitê Nacional PopRuaJud para a promoção de políticas públicas judiciais de atenção às Pessoas em Situação de Rua" no Conselho Nacional de Justiça (CNJ). Consultor (Expert Advisory) no Global Coalition for Digital Safety, no eixo Governance in the Metaverse, do World Economic Forum. Participou do Oxford Global Media Policy Summer Institute no Centre for Socio-Legal Studies da Universidade de OXFORD (OXFORD Faculty of Law). Pesquisador Visitante (Visiting Researcher) do Centre for Socio-Legal Studies da Universidade de Oxford (Oxford Faculty of Law).

José Luiz de Moura Faleiros Júnior, Universidade de São Paulo

Doutorando em Direito Civil pela Faculdade de Direito da Universidade de São Paulo - USP/Largo de São Francisco. Doutorando em Direito, na área de estudo Direito, Tecnologia e Inovação, pela Universidade Federal de Minas Gerais - UFMG. Mestre e Bacharel em Direito pela Universidade Federal de Uberlândia - UFU. Especialista em Direito Digital. Advogado e professor.

Downloads

Publicado

2023-06-29

Como Citar

BORGES, G. S.; FALEIROS JÚNIOR, J. L. de M. Viés racial em sistemas de inteligência artificial: desafios para a responsabilidade civil e a necessidade de parametrização do risco. Revista IBERC, Belo Horizonte, v. 6, n. 2, p. 100–128, 2023. DOI: 10.37963/iberc.v6i2.237. Disponível em: https://revistaiberc.responsabilidadecivil.org/iberc/article/view/237. Acesso em: 21 nov. 2024.

Edição

v. 6 n. 2 (2023): Revista IBERC

Seção

Doutrina Nacional

Licença

Copyright (c) 2023 Revista IBERC