As sociedades ocidentais individualistas se baseiam na ideia de que ninguém conhece nossos pensamentos, desejos ou alegrias melhor do que nós. E assim colocamos a nós mesmos, ao invés do governo, no comando de nossas vidas. Tendemos a concordar com a afirmação do filósofo Immanuel Kant de que ninguém tem o direito de nos impor sua ideia de uma vida boa.
A inteligência artificial (IA) vai mudar isso. Ele nos conhecerá melhor do que nós mesmos. Um governo armado com IA poderia alegar saber o que seu povo realmente deseja e o que realmente o fará feliz. Na melhor das hipóteses, ele usará isso para justificar o paternalismo; na pior, o totalitarismo.
Todo inferno começa com uma promessa do céu. O totalitarismo liderado pela IA não será diferente. A liberdade se tornará obediência ao estado. Apenas o irracional, maldoso ou subversivo poderia desejar escolher seu próprio caminho.
Para evitar essa distopia, não devemos permitir que outras pessoas saibam mais sobre nós do que nós. Não podemos permitir uma lacuna de autoconhecimento.
A IA Que Tudo Vê
Em 2019, o investidor bilionário Peter Thiel afirmou que a IA era “literalmente comunista”. Ele destacou que a IA permite que um poder centralizador monitore os cidadãos e saiba mais sobre eles do que eles próprios. A China, observou Thiel, abraçou avidamente a IA.
Já conhecemos o potencial da IA para apoiar o totalitarismo, fornecendo um sistema orwelliano de vigilância e controle. Mas a IA também dá aos totalitários uma arma filosófica. Enquanto nos conhecêssemos melhor do que o governo, o liberalismo poderia manter os aspirantes a totalitários afastados.
Mas a IA mudou o jogo. Grandes empresas de tecnologia coletam grandes quantidades de dados sobre nosso comportamento. Os algoritmos de aprendizado de máquina usam esses dados para calcular não apenas o que faremos, mas quem somos.
Hoje, a IA pode prever de quais filmes gostaremos, quais notícias gostaríamos de ler e com quem gostaríamos de ser amigos no Facebook. Pode prever se os casais permanecerão juntos e se tentaremos o suicídio. A partir de nossas curtidas no Facebook, a IA pode prever nossas visões religiosas e políticas, personalidade, inteligência, uso de drogas e felicidade.
A precisão das previsões da IA só vai melhorar. Em um futuro não muito distante, como sugeriu o escritor Yuval Noah Harari, a IA pode nos dizer quem somos antes de sabermos.
Esses desenvolvimentos têm implicações políticas sísmicas. Se os governos podem nos conhecer melhor do que nós, uma nova justificativa se abre para intervir em nossas vidas. Eles nos tiranizarão em nome do nosso próprio bem.
Liberdade através da tirania
O filósofo Isaiah Berlin previu isso em 1958. Ele identificou dois tipos de liberdade. Um tipo, ele advertiu, levaria à tirania.
Liberdade negativa é “liberdade de”. É liberdade da interferência de outras pessoas ou do governo em seus assuntos. Liberdade negativa é ninguém mais ser capaz de restringir você, desde que você não esteja violando os direitos de outra pessoa.
Em contraste, liberdade positiva é “liberdade para”. É a liberdade de ser senhor de si mesmo, liberdade para realizar seus verdadeiros desejos, liberdade para viver uma vida racional. Quem não gostaria disso?
Mas e se outra pessoa disser que você não está agindo em seu “interesse verdadeiro”, embora saibam como você poderia. Se você não ouvir, eles podem forçá-lo a ser livre – coagindo-o para o seu “próprio bem”. Esta é uma das idéias mais perigosas já concebidas. Matou dezenas de milhões de pessoas na União Soviética de Stalin e na China de Mao.
O líder comunista russo, Lenin, teria dito que os capitalistas lhe venderiam a corda com a qual ele os enforcaria. Peter Thiel argumentou que, em IA, empresas de tecnologia capitalistas do Vale do Silício venderam ao comunismo uma ferramenta que ameaça minar a sociedade capitalista democrática. AI é a corda de Lenin.
Lutando por nós mesmos
Só podemos prevenir essa distopia se ninguém tiver permissão para nos conhecer melhor do que nós mesmos. Jamais devemos sentimentalizar alguém que busca tal poder sobre nós como sendo bem-intencionado. Historicamente, isso só terminou em calamidade.
Uma maneira de evitar uma lacuna de autoconhecimento é aumentar nossos escudos de privacidade. Thiel, que rotulou a IA de comunista, argumentou que “a criptografia é libertária”. As criptomoedas podem “habilitar a privacidade”. A privacidade reduz a capacidade de terceiros de nos conhecer e usar esse conhecimento para nos manipular em seu próprio benefício.
No entanto, conhecer-nos melhor por meio da IA oferece benefícios poderosos. Podemos ser capazes de usá-lo para entender melhor o que nos fará felizes, saudáveis e ricos. Pode ajudar a orientar nossas escolhas de carreira. De forma mais geral, a IA promete criar o crescimento econômico que nos mantém longe da garganta uns dos outros.
O problema não é a IA melhorando nosso autoconhecimento. O problema é uma disparidade de poder no que se sabe sobre nós. O conhecimento sobre nós exclusivamente nas mãos de outra pessoa é o poder sobre nós. Mas o conhecimento sobre nós em nossas próprias mãos é poder para nós.
Qualquer pessoa que processe nossos dados para criar conhecimento sobre nós deve ser legalmente obrigado a nos devolver esse conhecimento. Precisamos atualizar a ideia de “nada sobre nós sem nós” para a era da IA.
O que a IA nos diz sobre nós mesmos é para considerarmos o uso, não para que outros lucrem com o abuso. Deve haver apenas uma mão no leme de nossa alma. E deve ser nosso.
Publicado em 14/08/2020 22h05
Artigo original:
Estudo original:
Achou importante? Compartilhe!
Assine nossa newsletter e fique informado sobre Astrofísica, Biofísica, Geofísica e outras áreas. Preencha seu e-mail no espaço abaixo e clique em “OK”: