Thierry Monasse / Getty Images
Um plano da União Europeia para regulamentar a inteligência artificial pode levar as empresas que quebrarem as regras propostas sobre vigilância em massa e discriminação em milhões de euros. O projeto de lei, que vazou antes de seu lançamento oficial no final deste mês, sugere que a UE está tentando encontrar uma “terceira via” na regulamentação da IA, entre o mercado livre dos EUA e a China autoritária.
Conforme redigido atualmente, as regras iriam proibir a IA destinada a manipular as pessoas “em seu detrimento”, realizar vigilância indiscriminada ou calcular “pontuações sociais”. Grande parte da linguagem é vaga o suficiente para que os regulamentos possam abranger toda a indústria de publicidade ou nada. Em qualquer caso, os militares e qualquer agência que garanta a segurança pública estão isentos.
Algumas atividades de “alto risco” seriam permitidas, sujeitas a controles rígidos, incluindo medidas para evitar trazer preconceito racial, de gênero ou idade para os sistemas de IA. Como possíveis alvos, a legislação menciona sistemas para automatizar o recrutamento de empregos, atribuindo vagas em escolas, faculdades ou universidades, medindo a pontuação de crédito ou decidindo o resultado dos pedidos de visto. As empresas em descumprimento podem ser multadas em até ? 20 milhões, ou 4% do faturamento global.
De certa forma, a notícia não é nenhuma surpresa, já que a presidente da Comissão Europeia, Ursula von der Leyen, prometeu trazer urgentemente legislação sobre IA quando for eleita em 2019. Mas Lilian Edwards, da Universidade de Newcastle, no Reino Unido, diz que os projetos de lei concernirá a indústria de tecnologia. “Eu aplaudo a ambição, mas você não pode imaginá-la passando neste estado”, diz ela.
Edwards compara a abordagem à forma como a UE regulamenta os produtos de consumo, que devem atender a certos requisitos para serem importados. “Isso é muito mais difícil de fazer com IA, pois nem sempre é um produto simples”, diz ela. “Você está caminhando inexoravelmente para uma guerra comercial com o Vale do Silício ou uma fiscalização fraca.”
A China e os Estados Unidos já fizeram grandes avanços na implementação de IA em uma série de setores, incluindo segurança nacional e aplicação da lei. Na China, o movimento diário de cidadãos em muitas cidades é monitorado por reconhecimento facial e há muitos testes públicos e privados de uma “pontuação de crédito social” que, em última instância, serão implementados em todo o país. Essas pontuações podem ser reduzidas por infrações, como jogar no computador por muito tempo ou atravessar a rua em um semáforo vermelho para pedestres, e podem ser aumentadas com doações para instituições de caridade. Se sua pontuação cair muito, você pode ter sua viagem de trem negada ou ser envergonhado nas listas online.
Enquanto isso, nos EUA, onde muitos gigantes da tecnologia estão baseados, uma abordagem leve e de livre mercado para a regulamentação foi encorajada pelo governo de Donald Trump, enquanto o atual presidente Joe Biden não assumiu uma posição pública firme.
Daniel Leufer, do Access Now, um dos grupos que já assessorou a UE sobre IA, diz que a Europa há muito tem uma estratégia para estabelecer uma terceira via entre os EUA e a China na regulamentação de tecnologia e diz que o projeto de lei é promissor.
Mas ele alerta que existem “grandes bandeiras vermelhas” em torno de alguns elementos do projeto de lei, como a criação de um Conselho Europeu de Inteligência Artificial. “Eles terão uma enorme influência sobre o que é adicionado ou retirado da lista de alto risco e da lista de proibições”, diz ele, o que significa que exatamente quem está no conselho será a chave.
A UE teve sucesso anterior em influenciar a política global de tecnologia. Seu Regulamento Geral de Proteção de Dados, introduzido em 2018, inspirou leis semelhantes em países fora da UE e na Califórnia, onde fica o Vale do Silício. Em resposta, entretanto, algumas empresas americanas simplesmente bloquearam o acesso de clientes da UE aos seus serviços.
Resta saber se o Reino Unido seguirá a UE na regulamentação da IA, agora que deixou o bloco. O Departamento de Negócios, Energia e Estratégia Industrial do Reino Unido disse à New Scientist que o governo formou um painel independente chamado Regulatory Horizons Council para aconselhar sobre quais regulamentações são necessárias para reagir a novas tecnologias como a IA.
Publicado em 17/04/2021 01h59
Artigo original: