Thomas Jefferson, o estadista americano e terceiro presidente dos Estados Unidos, era muitas coisas (incluindo, notoriamente, um proprietário de escravos). Mas o que quer que ele fosse (ou não fosse), ele acreditava firmemente no que chamava de “sufrágio do povo” – o que hoje chamaríamos de democracia.
A democracia que ele tinha em mente, é claro, não era um verdadeiro “sufrágio geral” de todos os cidadãos: em sua forma mais ambiciosa, abrangia apenas contribuintes do sexo masculino e soldados. Também estava muito distante do ideal clássico estabelecido pela Atenas Antiga, em que todos os cidadãos elegíveis se reuniam regularmente para debater e definir políticas. Ainda assim, mesmo a versão limitada e estritamente “representativa” de democracia de Jefferson exigia algo vital para funcionar adequadamente: não apenas um serviço público capaz e bem informado, mas um público votante bem informado.
Como disse o próprio Jefferson: “Sempre que as pessoas estão bem informadas, podem confiar a elas seu próprio governo”. A maioria das democracias ocidentais segue esse exemplo hoje. Mas, em face do progresso científico e tecnológico ao longo do século 20, muitos cientistas políticos, futuristas e jornalistas ficaram se perguntando sobre o futuro da democracia.
Na busca para descobrir para onde estamos indo, surge uma questão óbvia. Até que ponto podemos esperar que o cidadão comum esteja bem informado em um mundo que fica cada vez mais complexo e confuso a cada dia? Seria ingênuo pensar que o surgimento da ciência e da tecnologia não tornou mais difícil a compreensão completa dos problemas que enfrentamos como cidadãos.
O aquecimento global é o problema que se destaca. A menos que você pertença a um punhado de especialistas bem informados em geologia, meteorologia e oceanografia, você deve fazer um grande esforço para compreender os meandros da ciência do clima.
Adicione o ceticismo do aquecimento global às notícias e não é de se admirar que o ceticismo do clima seja tão alto em alguns países. Nos EUA, até 20% dos cidadãos americanos não acham que a atividade humana contribui muito, ou absolutamente nada, para as mudanças climáticas. Na Austrália, 38% das pessoas pesquisadas não consideram as mudanças climáticas uma grande ameaça. A mesma pesquisa descobriu que no Canadá esse número é de 34% e no Reino Unido 30%.
Há um novo jogo na cidade
Infelizmente, os últimos cinco a 10 anos também viram o surgimento da inteligência artificial (IA) e, mais particularmente, de um ramo da IA chamado “Machine Learning” ou “aprendizado de máquina”.
O aprendizado de máquina ocupa uma posição interessante na história do progresso científico. Por um lado, é um resultado natural do desenvolvimento da ciência da computação que começou na década de 1980. Por outro lado, sua dependência total das informações – e sua capacidade de lidar com todos os tipos de informações, incluindo coisas como o pressionamento de teclas e a frequência cardíaca – marca o que poderia ser uma ruptura mais radical com as tecnologias anteriores.
O aprendizado de máquina usa informações existentes para gerar novas informações. Mas também permite que novas informações sejam colocadas em uma variedade de usos questionáveis, incluindo vigilância e manipulação.
Se você já recebeu recomendações de produtos ao fazer compras on-line, provavelmente já fez um perfil. Já teve um pedido de cartão de crédito negado em pouco tempo? Mais uma vez, você provavelmente já fez um perfil. O perfil algorítmico apresenta uma série de desafios éticos e legais, particularmente em relação à discriminação e privacidade. Mas o perfil é apenas a ponta de um iceberg em constante expansão.
Democracia sob ataque?
Muitos usos da grande tecnologia representam uma ameaça para os indivíduos, o que é ruim o suficiente. Outros usos, no entanto, representam uma ameaça para os indivíduos como cidadãos democráticos. De forma deprimente, já existe um exemplo notável aqui.
Em 2017, descobriu-se que a empresa do Reino Unido, Cambridge Analytica, havia ajudado a campanha de licença Brexit 2016 do Reino Unido, fornecendo-lhe serviços de publicidade política direcionados. Esses serviços foram facilitados pelo acesso aos dados do Facebook, em uma grande violação das próprias políticas do Facebook.
Os chamados anúncios “obscuros” são geralmente enviados para as pessoas com maior probabilidade de serem suscetíveis a eles. Ao contrário dos panfletos e caixas de correio da velha escola, os anúncios não são distribuídos desordenadamente. Eles são direcionados, com base na exploração aprofundada do histórico de navegação das pessoas, curtidas no Facebook, tweets e compras online. Além do mais, um anúncio escuro é normalmente enviado sem que o receptor tenha o benefício de ouvir a opinião oposta.
Não é assim que o “mercado de idéias” democrático deve funcionar. Na verdade, como devemos entender e regular a influência dos algoritmos em nossas percepções está entre as questões mais importantes que a IA levanta hoje. Outra questão que vale a pena ponderar é por que tantos governos ao redor do mundo parecem empenhados em automatizar a administração pública quando há evidências suficientes para sugerir que muitas vezes ela não é nem eficiente nem justa.
A falta de compreensão básica obstrui o engajamento cívico mais frutífero com IA, dados e grande tecnologia. Mas, como cidadãos, devemos saber o que está acontecendo – e quem se beneficia.
É por isso que meus colegas e eu colocamos nossas cabeças juntas e escrevemos um livro que acreditamos que ajudará as pessoas a encontrar seu caminho na selva da IA. Os cidadãos merecem mais do que um conhecimento superficial da tecnologia – nada que cause confusão, mas o suficiente para informar uma compreensão baseada em princípios do mundo ao seu redor.
Como disse o jornalista da Time, Frank Trippett, em 1979: “O especialista terá de desempenhar um papel mais consciente como cidadão, assim como o comum (cidadão) terá de se tornar cada vez mais um estudante de tradição técnica.”
Nossa esperança é que mais jornalistas, líderes da indústria e acadêmicos cumpram a visão de Trippett, tornando-se eles próprios cidadãos especialistas. Isso significa dar às pessoas todas as informações claras de que precisam para fazer escolhas democráticas responsáveis e informadas. A democracia não exige menos.
Publicado em 13/03/2021 15h33
Artigo original:
Estudo original: