Encontramos inteligência artificial (IA) todos os dias. AI descreve sistemas de computador que são capazes de realizar tarefas que normalmente requerem inteligência humana. Quando você pesquisa algo na internet, os principais resultados que você vê são decididos pela IA.
Todas as recomendações que você receber de seus sites de compras ou streaming favoritos também serão baseadas em um algoritmo de IA. Esses algoritmos usam o histórico do navegador para encontrar coisas que podem ser de seu interesse.
Como as recomendações direcionadas não são particularmente empolgantes, a ficção científica prefere retratar a IA como robôs superinteligentes que destroem a humanidade. Algumas pessoas acreditam que esse cenário pode um dia se tornar realidade. Figuras notáveis, incluindo o falecido Stephen Hawking, expressaram medo sobre como a IA futura poderia ameaçar a humanidade.
Para abordar essa preocupação, perguntamos a 11 especialistas em IA e Ciência da Computação “A IA é uma ameaça existencial para a humanidade?” Houve um consenso de 82 por cento de que não é uma ameaça existencial. Aqui está o que descobrimos.
Quão perto estamos de fazer IA que é mais inteligente do que nós?
A IA que existe atualmente é chamada de IA ‘estreita’ ou ‘fraca’. É amplamente utilizado para muitas aplicações, como reconhecimento facial, carros autônomos e recomendações da Internet. É definido como ‘estreito’ porque esses sistemas só podem aprender e executar tarefas muito específicas.
Eles geralmente realizam essas tarefas melhor do que os humanos – notoriamente, Deep Blue foi a primeira IA a vencer um campeão mundial de xadrez em 1997 – no entanto, eles não podem aplicar seu aprendizado a nada além de uma tarefa muito específica (Deep Blue só pode jogar xadrez).
Outro tipo de IA é chamado de Inteligência Geral Artificial (AGI). Isso é definido como IA que imita a inteligência humana, incluindo a capacidade de pensar e aplicar inteligência a vários problemas diferentes. Algumas pessoas acreditam que a AGI é inevitável e acontecerá em breve nos próximos anos.
Matthew O’Brien, engenheiro de robótica do Georgia Institute of Technology discorda, “o tão almejado objetivo de uma ‘IA geral’ não está no horizonte. Simplesmente não sabemos como fazer uma inteligência adaptável geral e não está claro como é preciso muito mais progresso para chegar a esse ponto”.
Como um futuro AGI poderia ameaçar a humanidade?
Embora não esteja claro quando ou se o AGI acontecerá, podemos prever que ameaça eles podem representar para nós, humanos? A AGI aprende com a experiência e os dados, em vez de ser explicitamente instruído sobre o que fazer. Isso significa que, quando nos deparamos com uma nova situação que não vimos antes, podemos não ser capazes de prever completamente como ela reage.
O Dr. Roman Yampolskiy, cientista da computação da Universidade de Louisville também acredita que “nenhuma versão do controle humano sobre a IA é alcançável”, pois não é possível que a IA seja autônoma e controlada por humanos. Não ser capaz de controlar sistemas superinteligentes pode ser desastroso.
Yingxu Wang, professor de Software and Brain Sciences da Calgary University discorda, dizendo que “os sistemas e produtos de IA profissionalmente projetados são bem limitados por uma camada fundamental de sistemas operacionais para proteger o interesse e o bem-estar dos usuários, que não podem ser acessados ou modificados pelos próprias máquinas inteligentes. ”
O Dr. O’Brien acrescenta “assim como com outros sistemas de engenharia, qualquer coisa com consequências potencialmente perigosas seria testada exaustivamente e teria várias verificações de segurança redundantes.”
A IA que usamos hoje pode se tornar uma ameaça?
Muitos dos especialistas concordam que a IA pode ser uma ameaça nas mãos erradas. O Dr. George Montanez, especialista em IA do Harvey Mudd College destaca que “robôs e sistemas de IA não precisam ser sencientes para serem perigosos; eles apenas precisam ser ferramentas eficazes nas mãos de humanos que desejam ferir os outros. Essa é uma ameaça que existe hoje. ”
Mesmo sem intenção maliciosa, a IA de hoje pode ser ameaçadora. Por exemplo, preconceitos raciais foram descobertos em algoritmos que alocam cuidados de saúde a pacientes nos Estados Unidos. Vieses semelhantes foram encontrados em software de reconhecimento facial usado para aplicação da lei. Esses vieses têm impactos negativos abrangentes, apesar da capacidade ‘estreita’ da IA.
O viés de IA vem dos dados em que é treinado. Nos casos de preconceito racial, os dados de treinamento não eram representativos da população em geral. Outro exemplo aconteceu em 2016, quando uma caixa de bate-papo baseada em IA foi encontrada enviando conteúdo altamente ofensivo e racista. Descobriu-se que isso acontecia porque as pessoas estavam enviando mensagens ofensivas do bot, com as quais ele aprendeu.
A lição:
A IA que usamos hoje é excepcionalmente útil para muitas tarefas diferentes.
Isso não significa que seja sempre positivo – é uma ferramenta que, se usada de forma maliciosa ou incorreta, pode ter consequências negativas. Apesar disso, atualmente parece improvável que se torne uma ameaça existencial para a humanidade.
Publicado em 11/04/2021 16h57
Artigo original:
Estudo original: