Tem havido um interesse crescente no uso de “big data” de saúde para pesquisas de inteligência artificial (IA). Como tal, é importante compreender quais utilizações de dados de saúde são apoiadas pelo público e quais não são.
Estudos anteriores demonstraram que os membros do público veem os dados de saúde como um recurso que deve ser usado para pesquisas, desde que haja um benefício público e sejam abordadas as preocupações com a privacidade, motivos comerciais e outros riscos.
No entanto, este apoio geral pode não se estender à pesquisa de IA em saúde devido a preocupações sobre o potencial de perdas de empregos relacionadas à IA e outros impactos negativos.
Nossa equipe de pesquisa conduziu seis grupos de foco em Ontário em outubro de 2019 para aprender mais sobre como os membros do público em geral percebem o uso de dados de saúde para pesquisas de IA. Descobrimos que membros do público apoiaram o uso de dados de saúde em três cenários realistas de pesquisa de IA em saúde, mas sua aprovação tinha condições e limites.
Medos de robô
Cada um dos nossos grupos de foco começou com uma discussão das opiniões dos participantes sobre IA em geral. Consistente com as descobertas de outros estudos, as pessoas tinham opiniões mistas – mas principalmente negativas – sobre a IA. Havia várias referências a robôs maliciosos, como o Terminator no filme de James Cameron de 1984.
“Você pode criar um Terminator, literalmente, algo que é artificialmente inteligente, ou a matriz … dá errado, tenta dominar o mundo e os humanos têm que lutar contra isso. Ou pode ir no oposto absoluto onde ajuda … andróides … implantes … Como eu disse, é ilimitado ir de qualquer maneira. ” (Participante do grupo focal Mississauga)
Além disso, várias pessoas compartilharam sua crença de que já existe vigilância de IA de seu próprio comportamento, fazendo referência a anúncios direcionados que receberam para produtos sobre os quais falaram apenas em particular.
Alguns participantes comentaram como a IA pode ter impactos positivos, como no caso dos veículos autônomos. No entanto, a maioria das pessoas que disse coisas positivas sobre a IA também expressou preocupação sobre como a IA afetará a sociedade.
“É retratado como amigável e útil, mas está sempre observando e ouvindo. … Então, estou animado com as possibilidades, mas preocupado com as implicações e buscando a privacidade pessoal.” (Participante do grupo de foco Sudbury)
Cenários de suporte
Em contraste, os participantes do grupo de foco reagiram positivamente a três cenários realistas de pesquisa de IA em saúde. Em um dos cenários, alguns perceberam que os dados de saúde e a pesquisa de IA podem realmente salvar vidas, e a maioria das pessoas também apoiava dois outros cenários que não incluíam benefícios potenciais para salvar vidas.
Eles comentaram favoravelmente sobre o potencial dos dados de saúde e da pesquisa de IA para gerar conhecimento que de outra forma seria impossível de obter. Por exemplo, eles reagiram muito positivamente ao potencial de um teste baseado em IA para salvar vidas, identificando a origem dos cânceres para que o tratamento possa ser adaptado. Os participantes também observaram as vantagens práticas da IA, incluindo a capacidade de filtrar grandes quantidades de dados, realizar análises em tempo real e fornecer recomendações para profissionais de saúde e pacientes.
Quando você pode alcançar e ter um tamanho de amostra de um grupo de dez milhões de pessoas e ser capaz de extrair dados disso, você não pode fazer isso com o cérebro humano. Um grupo, uma equipe de pesquisadores não pode fazer isso. Você precisa de IA. (Participante do grupo focal Mississauga)
Protegendo a privacidade
Os participantes do grupo focal não foram positivamente dispostos a todos os possíveis usos de dados de saúde em pesquisas de IA.
Eles estavam preocupados que os dados de saúde fornecidos para uma finalidade de IA de saúde pudessem ser vendidos ou usados para outros fins com os quais eles não concordam. Os participantes também se preocuparam com os impactos negativos se a pesquisa de IA criar produtos que levem à falta de contato humano, perda de empregos e diminuição das habilidades humanas ao longo do tempo porque as pessoas se tornam excessivamente dependentes dos computadores.
Os participantes do grupo focal também sugeriram maneiras de abordar suas preocupações. Acima de tudo, eles falaram sobre como é importante ter a garantia de que a privacidade será protegida e a transparência sobre como os dados são usados na pesquisa de IA em saúde. Várias pessoas declararam a condição de que a pesquisa em IA em saúde deve criar ferramentas que funcionem no apoio aos humanos, ao invés de sistemas autônomos de tomada de decisão.
“Contanto que seja uma ferramenta, como o médico usa a ferramenta e o médico faz a ligação … não é um computador dizendo ao médico o que fazer.” (Participante do grupo de foco Sudbury)
Envolvendo membros do público nas decisões sobre IA para saúde
O envolvimento com o público exige tempo e esforço. Em particular, um trabalho considerável foi necessário para desenvolver, testar e refinar cenários de IA de saúde em linguagem simples e realistas que incluíam deliberadamente pontos potencialmente controversos. Mas houve um grande retorno do investimento.
Os participantes do grupo de foco – nenhum dos quais era especialista em IA – tiveram algumas percepções importantes e sugestões concretas sobre como tornar a pesquisa em IA em saúde mais responsável e aceitável para o público.
Estudos como o nosso podem ser contribuições importantes para políticas e guias de prática para dados de saúde e pesquisa de IA. Consistente com a Declaração de Montreal para o Desenvolvimento Responsável da IA, acreditamos que pesquisadores, cientistas e formuladores de políticas precisam trabalhar com o público para levar a ciência da IA para a saúde em direções que os membros do público apóiem.
Publicado em 05/11/2020 23h42
Artigo original:
Estudo original:
Achou importante? Compartilhe!
Assine nossa newsletter e fique informado sobre Astrofísica, Biofísica, Geofísica e outras áreas. Preencha seu e-mail no espaço abaixo e clique em “OK”: