A inteligência artificial atingiu um ponto crítico em sua evolução, de acordo com um novo relatório de um painel internacional de especialistas que avalia o estado do campo.
Avanços substanciais no processamento da linguagem, visão computacional e reconhecimento de padrões significam que a IA está afetando a vida das pessoas diariamente – desde ajudar as pessoas a escolher um filme até ajudar em diagnósticos médicos. Com esse sucesso, no entanto, vem uma urgência renovada para entender e mitigar os riscos e desvantagens dos sistemas orientados por IA, como a discriminação algorítmica ou o uso de IA para fraude deliberada. Os cientistas da computação devem trabalhar com especialistas em ciências sociais e direito para garantir que as armadilhas da IA sejam minimizadas.
Essas conclusões são de um relatório intitulado “Juntando Força, Juntando Tempestades: O Estudo de Cem Anos sobre Inteligência Artificial (AI100) Relatório do Painel de Estudo de 2021”, que foi compilado por um painel de especialistas em ciência da computação, políticas públicas, psicologia, sociologia e outras disciplinas. AI100 é um projeto em andamento organizado pelo Instituto de Inteligência Artificial Centrada no Homem da Universidade de Stanford, que visa monitorar o progresso da IA e orientar seu desenvolvimento futuro. Este novo relatório, o segundo a ser divulgado pelo projeto AI100, avalia a evolução da IA entre 2016 e 2021.
“Nos últimos cinco anos, a IA deu o salto de algo que acontece principalmente em laboratórios de pesquisa ou outras configurações altamente controladas para algo que está fora da sociedade afetando a vida das pessoas”, disse Michael Littman, professor de ciência da computação na Brown University que presidiu o painel de relatório. “Isso é muito empolgante, porque essa tecnologia está fazendo coisas incríveis com as quais poderíamos sonhar há cinco ou dez anos. Mas, ao mesmo tempo, o campo está enfrentando o impacto social dessa tecnologia, e acho que no próximo fronteira é pensar em maneiras de obter os benefícios da IA e, ao mesmo tempo, minimizar os riscos. ”
O relatório, divulgado na quinta-feira, 16 de setembro, está estruturado para responder a um conjunto de 14 perguntas que investigam áreas críticas do desenvolvimento de IA. As perguntas foram desenvolvidas pelo comitê permanente da AI100, que consiste em um grupo renomado de líderes da AI. O comitê então reuniu um painel de 17 pesquisadores e especialistas para respondê-las. As perguntas incluem “Quais são os avanços mais importantes na IA?” e “Quais são os grandes desafios abertos mais inspiradores?” Outras questões abordam os principais riscos e perigos da IA, seus efeitos na sociedade, sua percepção pública e o futuro do campo.
“Embora muitos relatórios tenham sido escritos sobre o impacto da IA ao longo dos últimos anos, os relatórios do AI100 são únicos por serem escritos por insiders da IA – especialistas que criam algoritmos de IA ou estudam sua influência na sociedade como sua principal atividade profissional – e que eles são parte de um estudo longitudinal e contínuo de um século “, disse Peter Stone, professor de ciência da computação na Universidade do Texas em Austin, diretor executivo da Sony AI America e presidente do comitê permanente da AI100. “O relatório de 2021 é fundamental para este aspecto longitudinal do AI100, pois está intimamente ligado ao relatório de 2016, comentando o que mudou nos cinco anos intermediários. Ele também fornece um modelo maravilhoso para futuros painéis de estudo emularem, respondendo a um conjunto de perguntas que esperamos que futuros painéis de estudo sejam reavaliados em intervalos de cinco anos. ”
Eric Horvitz, diretor científico da Microsoft e cofundador do One Hundred Year Study on AI, elogiou o trabalho do painel de estudos.
“Estou impressionado com os insights compartilhados pelo painel diversificado de especialistas em IA neste relatório importante”, disse Horvitz. “O relatório 2021 faz um excelente trabalho ao descrever onde a IA está hoje e para onde as coisas estão indo, incluindo uma avaliação das fronteiras de nossos entendimentos atuais e orientação sobre as principais oportunidades e desafios futuros sobre as influências da IA nas pessoas e na sociedade.”
Em termos de avanços de IA, o painel observou um progresso substancial nos subcampos da IA, incluindo processamento de fala e linguagem, visão computacional e outras áreas. Muito desse progresso foi impulsionado por avanços nas técnicas de Machine Learning, particularmente sistemas de Deep Learning, que deram o salto nos últimos anos do ambiente acadêmico para as aplicações do dia-a-dia.
Na área de processamento de linguagem natural, por exemplo, os sistemas baseados em IA agora são capazes não apenas de reconhecer palavras, mas entender como elas são usadas gramaticalmente e como os significados podem mudar em diferentes contextos. Isso permitiu uma melhor pesquisa na web, aplicativos de texto preditivo, chatbots e muito mais. Alguns desses sistemas agora são capazes de produzir textos originais difíceis de distinguir de textos produzidos por humanos.
Em outros lugares, os sistemas de IA estão diagnosticando cânceres e outras condições com precisão que rivaliza com patologistas treinados. As técnicas de pesquisa usando IA produziram novos insights sobre o genoma humano e aceleraram a descoberta de novos produtos farmacêuticos. E embora os prometidos carros autônomos ainda não estejam em uso generalizado, os sistemas de assistência ao motorista baseados em IA, como avisos de saída de faixa e controle de cruzeiro adaptativo, são equipamentos padrão na maioria dos carros novos.
Alguns progressos recentes da IA podem ser ignorados por observadores fora do campo, mas na verdade refletem avanços dramáticos nas tecnologias de IA subjacentes, diz Littman. Um exemplo relatável é o uso de imagens de fundo em videoconferências, que se tornaram uma parte onipresente da vida de muitas pessoas que trabalham em casa durante a pandemia de COVID-19.
“Para colocá-lo na frente de uma imagem de plano de fundo, o sistema precisa distingui-lo das coisas atrás de você – o que não é fácil de fazer apenas a partir de um conjunto de pixels”, disse Littman. “Ser capaz de entender uma imagem bem o suficiente para distinguir o primeiro plano do fundo é algo que talvez pudesse acontecer no laboratório há cinco anos, mas certamente não era algo que poderia acontecer no computador de qualquer pessoa, em tempo real e com altas taxas de quadros. um avanço bastante impressionante.”
Quanto aos riscos e perigos da IA, o painel não prevê um cenário distópico em que máquinas superinteligentes dominem o mundo. Os perigos reais da IA são um pouco mais sutis, mas não são menos preocupantes.
Alguns dos perigos citados no relatório resultam do uso indevido deliberado de IA – imagens e vídeos falsos usados para espalhar informações incorretas ou prejudicar a reputação das pessoas, ou bots online usados para manipular o discurso público e a opinião. Outros perigos decorrem de “uma aura de neutralidade e imparcialidade associada à tomada de decisões de IA em alguns cantos da consciência pública, resultando em sistemas sendo aceitos como objetivos, embora possam ser o resultado de decisões históricas tendenciosas ou mesmo discriminação flagrante”, painel escreve. Esta é uma preocupação particular em áreas como a aplicação da lei, onde foi demonstrado que os sistemas de previsão de crimes afetam negativamente as comunidades de cor, ou na saúde, onde o preconceito racial embutido nos algoritmos de seguro pode afetar o acesso das pessoas aos cuidados apropriados.
À medida que o uso de IA aumenta, esses tipos de problemas tendem a se tornar mais difundidos. A boa notícia, diz Littman, é que o campo está levando esses perigos a sério e buscando ativamente a opinião de especialistas em psicologia, políticas públicas e outros campos para explorar maneiras de mitigá-los. A composição do painel que produziu o relatório reflete a perspectiva cada vez mais ampla que chega ao campo, diz Littman.
“O painel consiste em quase metade de cientistas sociais e metade de cientistas da computação, e fiquei agradavelmente surpreso com o quão profundo é o conhecimento sobre IA entre os cientistas sociais”, disse Littman. “Agora temos pessoas que trabalham em uma ampla variedade de áreas diferentes que são corretamente consideradas especialistas em IA. Essa é uma tendência positiva.”
Avançando, o painel conclui que governos, academia e indústria precisarão desempenhar papéis ampliados para garantir que a IA evolua para servir ao bem maior.
Publicado em 17/09/2021 11h43
Artigo original:
Estudo original: