Quando você tem que escolher um cabeleireiro, um dentista ou uma babá, provavelmente decide se a pessoa é calorosa, amigável e afável, não apenas se ela tem uma boa reputação.
Acontece que essas mesmas considerações entram em vigor quando as pessoas avaliam quais sistemas de inteligência artificial usar. Waze ou Google Maps? Spotify ou Apple Music? Alexa ou Siri? Os consumidores escolhem entre sistemas baseados em IA todos os dias, mas como exatamente eles escolhem quais sistemas usar?
As pessoas dependem cada vez mais de sistemas baseados em IA para auxiliar na tomada de decisões em vários domínios e muitas vezes enfrentam uma escolha entre sistemas alternativos.
Um estudo recente conduzido por pesquisadores da Faculdade de Engenharia Industrial e Gestão do Instituto de Tecnologia Technion-Israel em Haifa mostrou que o “calor” de um sistema desempenha um papel fundamental na previsão da escolha dos consumidores entre os sistemas de IA.
Sabemos o que é cordialidade quando envolve pessoas. E as aplicações “frias” de IA não humana podem ser “quentes”? Na verdade, este adjetivo se refere à intenção percebida dos sistemas de IA (boa ou má) e competência – isto é, a capacidade percebida dos sistemas de agir com base nessas intenções e nas escolhas que eles fizeram.
Essas descobertas são semelhantes ao que se conhece sobre as interações humanas: as considerações de calor costumam ser mais importantes do que as de competência ao julgar outros seres humanos. Em outras palavras, as pessoas usam regras sociais básicas semelhantes para avaliar sistemas de IA e pessoas, mesmo quando avaliam sistemas de IA sem características humanas evidentes. Com base em suas descobertas, os pesquisadores concluíram que os designers de sistemas de IA consideram e comunicam o calor do sistema a seus usuários em potencial.
Considerando a quantidade de dinheiro e esforços gastos na melhoria do desempenho de IA, pode-se esperar competência e capacidade para direcionar as escolhas dos usuários.
A pesquisa foi publicada recentemente no Proceedings of the 2021 CHI Conference on Human Factors in Computing Systems sob o título “Os efeitos do calor e das percepções de competência na escolha dos usuários de um sistema de IA” e realizada pelo Zohar Gilad do Technion, Prof. Ofra Amir e Prof. Liat Levontin.
A maior parte das pesquisas feitas até agora com relação às percepções de “calor” de sistemas baseados em IA abordaram sistemas com presença virtual ou física, como agentes virtuais e robôs. O estudo atual, no entanto, se concentrou em sistemas de IA “sem rosto” com pouca ou nenhuma presença social, como sistemas de recomendação, motores de busca e aplicativos de navegação. Para esses tipos de sistemas de IA, os pesquisadores definiram “calor” como o principal beneficiário do sistema. Por exemplo, um sistema de navegação pode priorizar a coleta de dados sobre novas rotas (beneficiando o sistema) em vez de apresentar a rota mais conhecida ou vice-versa.
Os pesquisadores descobriram que o “calor” do sistema era importante para os usuários em potencial ainda mais do que sua competência e que eles favoreciam um sistema altamente “quente” em vez de um sistema altamente competente.
Essa preferência por “calor” persistiu mesmo quando o sistema altamente “quente” era abertamente deficiente em sua competência. Por exemplo, quando solicitados a escolher entre dois sistemas de IA que recomendam planos de seguro de automóveis, a maioria dos participantes preferiu um sistema com baixa competência (“usando um algoritmo treinado em dados de 1.000 planos de seguro de automóveis”) e alto “calor” (“desenvolvido para ajudar pessoas como eles “), em um sistema com alta competência (” usando um algoritmo de rede neural artificial de última geração treinado em dados de 1.000.000 de planos de seguro de automóveis “) e baixo” calor “(” desenvolvido para ajudar os agentes de seguros a fazer melhores ofertas”). Ou seja, os consumidores estavam dispostos a sacrificar a competência por mais calor.
Portanto, essas descobertas são semelhantes ao que se conhece das interações humanas: as considerações de calor são frequentemente mais importantes do que as considerações de competência ao julgar outros humanos – as pessoas usam regras sociais básicas semelhantes para avaliar sistemas de IA e pessoas, mesmo quando avaliam sistemas de IA sem características humanas evidentes. Com base em suas descobertas, os pesquisadores concluíram que os designers de sistemas de IA consideram e comunicam o calor do sistema a seus usuários em potencial.
Publicado em 01/07/2021 09h14
Artigo original: