Os riscos de preconceito e erros em inteligência artificial
Algoritmos de aprendizado de máquina e sistemas de inteligência artificial influenciam muitos aspectos da vida das pessoas: artigos de notícias, filmes para assistir, pessoas com quem conviver, acesso a crédito e até mesmo o investimento de capital. Algoritmos foram autorizados a tomar tais decisões e ações visando a eficiência e velocidade.
Apesar desses ganhos, há preocupações com a rápida automação de empregos (até mesmo empregos como jornalismo e radiologia).
Uma melhor compreensão das atitudes e interações com os algoritmos é essencial precisamente por causa da aura de objetividade e infalibilidade que as culturas tendem a atribuir a eles. Este relatório ilustra algumas das deficiências da tomada de decisão algorítmica, identifica os principais temas em torno do problema de erros e vieses algorítmicos e examina algumas abordagens para combater esses problemas.
Este relatório destaca os riscos e complexidades adicionais inerentes ao uso de tomada de decisão algorítmica em políticas públicas. O relatório termina com um levantamento de abordagens para combater esses problemas.
Principais conclusões
Algoritmos e agentes de inteligência artificial influenciam muitas áreas da vida hoje.
Em particular, esses agentes artificiais influenciam as notícias lidas e a publicidade associada, o acesso a crédito e investimento de capital, avaliações de risco para presidiários e outros.
Esta dependência de agentes artificiais traz riscos que causaram preocupação.
O potencial de parcialidade é uma preocupação. Os algoritmos dão a ilusão de serem imparciais, mas são escritos por pessoas e treinados em dados gerados socialmente. Assim, eles podem codificar e amplificar os preconceitos humanos. O uso de agentes artificiais em sentenças e outros contextos jurídicos é uma área em particular que tem causado preocupações sobre o preconceito.
Outra preocupação é que a crescente dependência de agentes artificiais está alimentando a automação rápida de empregos, mesmo empregos que parecem depender fortemente da inteligência humana, como jornalismo e radiologia.
Entre outros riscos estão a possibilidade de funções de recompensa hackeadas (um problema com o aprendizado de máquina) e a incapacidade de distinguir entre diferenças culturais.
Os remédios provavelmente exigirão uma combinação de abordagens técnicas e não técnicas
A confiança em algoritmos para a tomada de decisão autônoma requer equipá-los com meios de auditar os fatores causais por trás das decisões.
Algoritmos podem levar a resultados desiguais. Incutir uma dose saudável de ceticismo informado no público ajudaria a reduzir os efeitos do viés da automação.
O treinamento e a diversidade nas categorias de desenvolvedores de algoritmos podem ajudar a melhorar a sensibilidade a possíveis problemas de impacto díspares.
Recomendações
Identifique os serviços e subsistemas críticos que requerem uma tomada de decisão “humana no circuito”. Os critérios de seleção podem incluir sistemas de alto risco ou sistemas que requerem responsabilidade especial. Limite o papel dos agentes artificiais nesses sistemas a uma capacidade estritamente consultiva. Enfatize a necessidade da habilidade de auditar os resultados desses agentes artificiais consultivos.
Estabeleça as melhores práticas para a auditoria de auxílios à tomada de decisão algorítmicos projetados para uso em serviços governamentais e domínios de política (por exemplo, o sistema de justiça criminal e administração de serviços sociais). Isso deve incluir orientações específicas para desencorajar o uso de soluções algorítmicas de caixa preta de terceiros não credenciadas. Os procedimentos de auditoria também devem abordar questões de impacto distinto.
Adote práticas de divulgação padronizadas para informar as partes interessadas quando as decisões que as afetam são geradas por algoritmos. Institua procedimentos padrão para apelar ou revisar tais decisões.
É necessário investir em fundos de pesquisa científica em pesquisas sobre impactos díspares algorítmicos. Envolva-se com a comunidade de inteligência artificial comercial para compartilhar as melhores práticas.
É necessário abordar questões de diversidade no pipeline educacional de ciência, tecnologia, engenharia e matemática. Atualizar as diretrizes de credenciamento para escolas de engenharia para incluir mais treinamento sobre os efeitos da tecnologia na sociedade e nos sistemas sociotécnicos em geral.
Publicado em 20/11/2020 16h02
Artigo original:
Estudo original:
Achou importante? Compartilhe!
Assine nossa newsletter e fique informado sobre Astrofísica, Biofísica, Geofísica e outras áreas. Preencha seu e-mail no espaço abaixo e clique em “OK”: