Você pode supor que Hollywood é bom em prever o futuro. De fato, Robert Wallace, chefe do Escritório de Serviços Técnicos da CIA e o equivalente americano do fictício Q do MI6, contou como os espiões russos assistiriam ao último filme de Bond para ver quais tecnologias poderiam estar surgindo.
A contínua obsessão de Hollywood por robôs assassinos pode, portanto, ser uma preocupação significativa. O mais novo filme desse tipo é o próximo drama de tribunal de robôs sexuais da Apple TV, Dolly.
Eu nunca pensei que escreveria a frase “drama de tribunal de robôs sexuais”, mas aí está. Baseado em um conto de 2011 de Elizabeth Bear, o enredo diz respeito a um bilionário morto por um robô sexual que então pede um advogado para defender suas ações assassinas.
Os verdadeiros robôs assassinos
Dolly é o mais recente de uma longa linha de filmes com robôs assassinos – incluindo HAL em 2001: Uma Odisséia no Espaço, de Kubrick, e o robô T-800 de Arnold Schwarzenegger na série Exterminador do Futuro.
De fato, o conflito entre robôs e humanos esteve no centro do primeiro longa-metragem de ficção científica, Metrópolis, clássico de Fritz Lang, de 1927.
Mas quase todos esses filmes erram.
Robôs assassinos não serão robôs humanóides sencientes com más intenções. Isso pode resultar em um enredo dramático e um sucesso de bilheteria, mas essas tecnologias estão a muitas décadas, se não séculos, de distância.
De fato, ao contrário dos temores recentes, os robôs podem nunca ser sencientes.
São tecnologias muito mais simples com as quais devemos nos preocupar. E essas tecnologias estão começando a aparecer no campo de batalha hoje em lugares como Ucrânia e Nagorno-Karabakh.
Uma guerra transformada
Filmes que apresentam drones armados muito mais simples, como Angel has Fallen (2019) e Eye in the Sky (2015), pintam talvez a imagem mais precisa do futuro real dos robôs assassinos.
No noticiário noturno da TV, vemos como a guerra moderna está sendo transformada por drones, tanques, navios e submarinos cada vez mais autônomos. Esses robôs são apenas um pouco mais sofisticados do que aqueles que você pode comprar em sua loja de hobby local.
E cada vez mais, as decisões de identificar, rastrear e destruir alvos estão sendo entregues a seus algoritmos.
Isso está levando o mundo a um lugar perigoso, com uma série de problemas morais, legais e técnicos. Essas armas, por exemplo, perturbarão ainda mais nossa conturbada situação geopolítica. Já vemos a Turquia emergindo como uma grande potência de drones.
E essas armas cruzam uma linha vermelha moral em um mundo terrível e aterrorizante, onde máquinas inexplicáveis decidem quem vive e quem morre.
Os fabricantes de robôs estão, no entanto, começando a se opor a esse futuro.
Uma promessa de não armar
Na semana passada, seis empresas líderes em robótica prometeram que nunca iriam armar suas plataformas de robôs.
As empresas incluem a Boston Dynamics, que fabrica o robô humanóide Atlas, que pode executar um impressionante backflip, e o cachorro robô Spot, que parece ter saído direto da série de TV Black Mirror.
Esta não é a primeira vez que as empresas de robótica se manifestam sobre esse futuro preocupante.
Cinco anos atrás, organizei uma carta aberta assinada por Elon Musk e mais de 100 fundadores de outras empresas de IA e robôs pedindo que as Nações Unidas regulassem o uso de robôs assassinos. A carta até derrubou o Papa em terceiro lugar para um prêmio global de desarmamento.
Seis fabricantes líderes de robôs, incluindo Agility e Boston Dynamics, assinaram um compromisso de não armar seus robôs avançados – e encorajam outras empresas #robotics a não ‘permitirem a anexação de armamento a esses robôs’. #robotics firms not to 'enable the attachment of weaponry to such robots.'
— Andy O'Donoghue (@ADODonoghue) October 7, 2022
Here's the letter: https://t.co/IsCjf97FVp pic.twitter.com/HUY7Vzfccc
No entanto, o fato de que as principais empresas de robótica estão se comprometendo a não armar suas plataformas de robôs é mais um sinal de virtude do que qualquer outra coisa.
Já vimos, por exemplo, terceiros montar armas em clones do cão robô Spot da Boston Dynamics.
E esses robôs modificados provaram ser eficazes em ação. O principal cientista nuclear do Irã foi assassinado por agentes israelenses usando uma metralhadora robô em 2020.
Ação coletiva para salvaguardar o nosso futuro
A única maneira de nos protegermos desse futuro aterrorizante é se as nações agirem coletivamente, como fizeram com armas químicas, armas biológicas e até armas nucleares.
Tal regulamentação não será perfeita, assim como a regulamentação de armas químicas não é perfeita. Mas impedirá que as empresas de armas vendam abertamente essas armas e, portanto, sua proliferação.
Portanto, é ainda mais importante do que uma promessa de empresas de robótica ver que o Conselho de Direitos Humanos da ONU decidiu recentemente por unanimidade explorar as implicações de direitos humanos de tecnologias novas e emergentes, como armas autônomas.
Várias dezenas de nações já pediram que a ONU regule os robôs assassinos. O Parlamento Europeu, a União Africana, o Secretário-Geral da ONU, laureados com o Nobel da Paz, líderes da Igreja, políticos e milhares de pesquisadores de IA e robótica como eu, todos pediram regulamentação.
A Austrália não é um país que, até agora, apoiou essas chamadas. Mas se você quiser evitar esse futuro de Hollywood, talvez queira conversar com seu representante político na próxima vez que os vir.
Publicado em 18/10/2022 12h17
Artigo original: