O Dr. Roey Tzezana é um pesquisador futurista do Blavatnik Interdisciplinary Cyber Research Center na Universidade de Tel Aviv. Especialista na análise de tecnologias inovadoras e seu impacto na sociedade, nas horas vagas trabalha como mágico e mentalista. Ele conversou com Israel Hayom sobre como nossas vidas estão sendo mudadas pela rápida mudança na tecnologia e na inteligência artificial.
P: Dr. Roey Tzezana, apenas algumas semanas após o lançamento oficial do mecanismo AI (Inteligência Artificial) GPT-3, este parece ser um bom momento para entender exatamente o que pudemos aprender durante este último mês . Testemunhamos um terremoto no mundo da tecnologia, talvez em toda a raça humana, ou isso é mais uma mudança leve, e talvez não tão substancial?
“Permita-me começar por dizer que o lançamento do ChatGPT foi acompanhado por uma campanha de relações públicas em massa liderada pela OpenAI, que se estima estar a custar à empresa vários milhões de dólares por mês – necessários para operar todo o seu poder de computação. chat que se baseia em um modelo linguístico, e um dos melhores modelos desse tipo no mundo, lançado no mercado há cerca de dois anos, mas que só recentemente se tornou mais acessível ao público em geral, que agora entende o quão impressionante é. As versões recentes dos motores de busca linguísticos são tão sofisticadas que abordam todos os serviços, softwares e até mesmo jogos de computador. É claro que estamos atualmente posicionados em um trampolim e agora estamos vendo coisas que apenas dois anos atrás, só podíamos sonhar.”
Agora começaram a surgir especulações sobre a próxima versão do GPT.
“E todo mundo está adivinhando. Temos certeza de que ele deve ser capaz de levar em conta mais parâmetros do que o GPT-3, trabalhar com textos mais longos, lê-los e extrair insights deles. Um dos palpites é que o GPT-4 não se referirá apenas a texto, mas também a imagens, vídeos e músicas, ou seja, dará sua opinião sobre a música de Bach, e possivelmente também produzirá imagens, filmes e músicas por conta própria.
“Os recursos de texto atuais do GPT-3 ainda são limitados, mas podemos supor que o próximo mecanismo será capaz de receber volumes muito maiores de texto e poderá até mesmo escrever um livro completo de acordo com o estilo que solicitamos dele. Pode não ser um livro incrível de se ler, mas pode muito bem ser um bom ponto de partida. Sua capacidade de escrever código também melhorará e ele deverá ser capaz de ler e escrever melhor em qualquer linguagem bem documentada na web. ”
P: Uma das surpresas interessantes com o mecanismo atual foi registrada quando o GPT-3 aprendeu hebraico sem querer.
“Isso nos pegou completamente de surpresa. Ninguém ensinou hebraico intencionalmente, mas essa raposa astuta conseguiu encontrar informações suficientes na internet e assim conseguiu entender o idioma. Então agora, de repente, ele pode ler e responder em hebraico, mesmo que ainda tenha muito o que aprender. Mais tarde, presumimos que ele começará a falar de maneira mais focada e direta, criará um contexto mais preciso e falará menos ‘lixo’. E, claro, poderá responder a questões mais atuais, questões realmente atuais, pois neste momento a informação do GPT-3 é relevante apenas para 2021.”
P: O New York Times informou que o Google declarou estado de emergência dentro da empresa em resposta ao lançamento. Eles realmente têm algo para ficar tensos?
“Sim. O GPT-3 não o direciona para sites que contêm as respostas, mas fornece as próprias respostas. O Google agora compreendeu o quanto as pessoas buscam respostas sem ter que se envolver em buscas cansativas em busca delas. O bom No que diz respeito ao Google, a novidade é que eles têm recursos de IA ainda mais sofisticados do que o ChatGPT. precisam se engajar em uma busca e, conseqüentemente, não serão expostos a anúncios, o que claramente impacta na lucratividade do Google. Eles também estavam preocupados com um mecanismo que poderia produzir lixo e, assim, prejudicar sua credibilidade.”
P: E a Microsoft? Embora os relatórios desta semana indiquem que está prestes a demitir 11 mil funcionários, por outro lado, investiu enormes quantias de financiamento na OpenAI. Esta é sua oportunidade de ouro para governar o poleiro mais uma vez?
“Acho que sim, esta é uma grande oportunidade de integrar IA de ponta em seus produtos, e esta é definitivamente uma perspectiva muito interessante”.
Você tem boas razões para se preocupar
Uma oportunidade interessante de outra esfera que vale a pena comentar diz respeito às potenciais implicações trabalhistas da GPT-3. Você prevê um cenário em que os gerentes demitirão alguns de seus funcionários, pois a IA tornará seu trabalho redundante?
“Sim, e isso já está começando a acontecer. Só recentemente o MIT divulgou um estudo segundo o qual grande parte da desigualdade salarial histórica está relacionada a processos de automação. Quem souber aproveitar a tecnologia e aplicá-la em seu trabalho ganhará um salário maior , e quem não puder fazê-lo – corre o risco de ser demitido ou, caso contrário, sofrer um congelamento nos aumentos salariais. Com o passar do tempo, haverá uma diminuição na necessidade de pessoas engajadas em tarefas rotineiras de trabalho.”
P: É muito interessante o que está acontecendo, pois antigamente pensávamos que os operários seriam os primeiros a serem substituídos, enquanto na prática, certamente em vista do ChatGPT, aqueles que são ameaçados de serem os primeiros a serem substituídos substituídos são, na verdade, os funcionários de colarinho branco – gerentes, engenheiros, equipe de criação. Devemos ficar ansiosos?
“Eu alertei sobre esse fenômeno há mais de uma década. Em primeiro lugar, todos nós precisamos estar sempre preocupados com nosso trabalho, especialmente nesta era moderna. Até o surgimento da AGI (Artificial General Intelligence), que é equivalente ao intelecto humano ou possivelmente o supere, será difícil criar um computador capaz de substituir todas as tarefas executadas por um programador, mas isso não significa que seja impossível substituir dez por cento de suas tarefas ainda hoje. Isso liberaria uma quantidade considerável de tempo.
“De qualquer forma, os gerentes seniores em uma variedade de setores da indústria estão começando a examinar silenciosa e cuidadosamente até que ponto os mecanismos de IA são capazes de realizar tarefas de trabalhadores juniores, programadores, por exemplo. Em muitos casos, eles descobrem que a IA é capaz de fazer o trabalho desses funcionários juniores e talvez até mesmo substituí-los.”
P: Qual é a implicação disso?
“Muito simples: se uma empresa tiver que decidir se contratará mais dez programadores iniciantes ou oito e preencherá a lacuna com algum mecanismo de IA, fica claro qual opção eles preferirão escolher. E isso é apenas o início.
“Eles podem não tentar substituir todos amanhã de manhã, mas será suficiente se eles conseguirem completar dez por cento das tarefas de um determinado profissional para que a onda de choque ocorra, e a onda de choque já está acontecendo. Mas é importante lembrar que o A ideia não é lutar contra a tecnologia, mas usá-la e aproveitá-la para realizar ideias e aspirações com mais eficiência. Quando a primeira câmera foi produzida, os artistas disseram que isso não é arte e não demorou muito para que descobrissem que, na verdade, isso é.”
P: Você dorme profundamente à noite?
“Absolutamente. No último ano e meio, tenho me correspondido com GPT-3 e outros motores, e tenho pedido a eles que desenvolvam cenários futuros para mim. Muitas vezes seguro minha cabeça em minhas mãos e digo a mim mesmo – Meu Deus , estou falando com uma máquina, e se ela não for mais esperta do que eu, então está bem claro aonde isso está levando. No entanto, por outro lado, também digo: Que honra é para mim poder falar com a ‘criança’ que foi desenvolvida pela humanidade, que em breve poderá ajudar o mundo inteiro.”
P: Mas essa criança não incorpora algo que realmente impede a paixão pela criação, o desejo humano de avançar e conquistar novos picos? É até certo ponto extinguindo a centelha de criatividade dentro de nós.
“Eu o uso para escrever músicas e produz um trabalho que não é nada ruim. Mas quando envio uma música escrita pelo motor para outra pessoa, é bastante desprovida de emoção, pois as pessoas sabem que não há intenção genuína de outro ser humano por trás disso, o que envolveu um esforço criativo. Você sempre pode competir em uma corrida de velocidade com Usain Bolt e vencê-lo pilotando uma motocicleta, mas acho que todos nós preferimos ver velocistas humanos correndo uns contra os outros. outros. Isso também é verdade para a música – a coisa mais emocionante sobre a música é a capacidade de criar apesar de todas as dificuldades e, em seguida, obter uma vitória humana. Assim, mesmo quando a IA atingir seu próprio pico, ela não será capaz de competir com a capacidade de animar e inspirar as pessoas como resultado do esforço investido na produção do produto final.”
O problema: estamos mortos
P: Tanto em termos de aspecto criativo quanto em geral, você acredita que a questão mais importante não é necessariamente o ChatGPT3 em si, mas sim as implicações de seus mecanismos subsequentes?
“Definitivamente. Em termos de visão geral de longo prazo, GPT-3 é outro marco, mas não mais do que isso. Este é outro marco no caminho para alcançar AGI e ASI (Super Inteligência Artificial) que serão capazes de realizar todas as tarefas e fazer tudo melhor do que o ser humano. Desde tempos imemoriais, o mais importante para a humanidade sempre foi a inteligência, a capacidade de inventar e inovar. Sem ela, nunca teríamos produzido as invenções que levaram a humanidade até onde ela está hoje. O problema é que o ser humano tem uma série de problemas: achamos difícil chegar a novas invenções e colocá-las em prática, a maioria de nós se especializou em apenas um campo, o que retarda o processo de desenvolvimento humano, e em no final, todos nós morremos de qualquer maneira.
“Um indivíduo ganha experiência ao longo de toda a sua vida, que de uma perspectiva histórica mais ampla é apenas uma partícula inconseqüente, e depois de várias décadas tudo se perde, tanto quando ele morre quanto quando envelhece, torna-se cada vez menos disposto a adotar novas ideias e, conseqüentemente, atrasa o desenvolvimento contínuo da inovação. Também é difícil para nós compartilhar informações: temos um bom cérebro, mas é difícil convertê-lo em dezenas ou centenas de excelentes cérebros que podem trocar informações uns com os outros. de outros.”
P: E a IA é capaz de contornar todos esses problemas.
“Sim, como tal, aparentemente é a maior revolução que a humanidade experimentará. Ela nos permitirá realizar nossos desejos e necessidades: mais saúde, prosperidade, energia e tecnologia. AGI será capaz de estudar qualquer assunto que um humano pode aprender, transferir know-how entre várias esferas e fazer conclusões integradoras. O significado disso é que qualquer novo insight, teoria e tecnologia servirá como um terreno fértil a partir do qual a IA será capaz de construir rapidamente novas teorias e tecnologias sem ter investir anos de esforço para isso. Aliás, é possível afirmar que o GPT-3, pelo menos em termos de texto, já é AGI.”
P: Está bem claro pelo que você disse exatamente o que a AGI será capaz de fazer. Por favor, explique um pouco mais sobre o ASI.
“Se Einstein tivesse vivido para sempre – tente imaginar em que insights e avanços isso poderia ter resultado. Então, tal inteligência poderia ser equivalente a mil Einsteins, e não apenas em termos de física, mas em todos os campos do conhecimento. Isso poderia levar a uma tremenda melhoria na qualidade de vida e nas capacidades gerais de toda a humanidade. É com isso que estou tão entusiasmado.”
P: Quando poderemos ver o ASI realmente sendo colocado em prática aqui?
“Nas pesquisas que realizamos entre pesquisadores de IA, os asiáticos estão otimistas e acreditam que poderemos vê-la funcionando em 25 anos. Os pesquisadores ocidentais são mais pessimistas e tendem a citar o ano de 2060 como a data aproximada para isso. inventor e futurista, Ray Kurzweil, acredita que desenvolveremos AGI mais ou menos até 2045, e eu concordo com sua posição.”
A ética humana ainda está aqui
P: Uma questão crítica para sua abordagem é quem estará no controle da Inteligência Artificial no futuro.
“Se operar em uma plataforma de nuvem IaaS (Infraestrutura como Serviço) fornecida por uma empresa, então claramente estará sujeito a um controle altamente centralizado. Alternativamente, pode ser executado em todos os dispositivos de propriedade pública, como é o caso hoje. Um dos os principais dilemas em torno disso são o dilema do agente. Ostensivamente, a IA pode ser o agente perfeito, pois não tem vontade própria e, portanto, deve nos representar extremamente bem, assim como um bom agente faria. No entanto, realmente devemos considerar em consideração o fato de que alguém desenvolveu essa inteligência e continua a investir nela porque quer ganhar dinheiro. Portanto, a IA certamente não é isenta de preconceitos. Seu viés será claramente o viés intencional que as empresas implantaram na IA . Viés adicional e potencialmente mais grave seria a existência de viés não intencional.”
P: Por exemplo, preconceito contra minorias ou disseminação de conteúdo ofensivo.
“Correto. A razão para tais preconceitos e para a disseminação de conteúdo ofensivo é que a IA estuda padrões e estruturas com base na experiência passada. Quando a IA aconselha um juiz em relação às chances de um afro-americano voltar ao crime em comparação com um branco indivíduo, dirá a ele que a reincidência criminal é muito mais difundida entre os afro-americanos. Você pode chamar isso de racismo, mas a verdade é que a resposta fornecida é baseada em padrões históricos que a IA identificou.”
“Mas, dessa maneira, a IA está simplesmente perpetuando um estado de coisas existente e preservando as lacunas sociais. Devemos, portanto, perguntar: se as suposições fornecidas pela IA estiverem corretas, o que nós, como sociedade, deveríamos fazer sobre isso? Como deveríamos estamos usando esse conhecimento para ajudar as pessoas a se reabilitarem com mais facilidade, a partir do entendimento de que o padrão de comportamento atual não é o ideal?”
P: Como podemos garantir que as pessoas certas tenham controle sobre a IA e não apenas pequenos grupos que possam utilizá-la de forma potencialmente perigosa?
“Os governantes dos estados totalitários estão se divertindo com a ideia do que podem fazer com a IA. Vladimir Putin já disse que quem controlar a IA controlará o mundo. Os ditadores estão sempre ansiosos com a possibilidade de o público se levantar e derrubá-los, e isso se aplica a todos os estados.
“Se a IA existisse na época da Stasi ou da KGB, teria permitido que eles penetrassem no smartphone de todos, monitorassem e supervisionassem conversas ou conteúdo antigovernamental. Em um cenário semelhante, isso está ocorrendo hoje em certos países, se devemos tirar uma foto em um local que o governo não quer que apareça nas manchetes da mídia, então a IA usada na operação de nosso smartphone permitirá apenas o compartilhamento limitado dessa imagem, se possível, para que quase ninguém consiga Se os governos democráticos puderem operar a IA dessa maneira, logo nos encontraremos em uma sociedade completamente monitorada, o que causará graves danos à democracia, a seus cidadãos e à resiliência nacional.
“Assim, quem me pergunta quando a Inteligência Artificial vai conquistar o mundo, respondo que atualmente não há porque se preocupar com a IA, mas devemos nos preocupar com quem está no controle dela, pois ela já começa a guiar nossas ações e ações: aconselha sobre quanto imposto devemos pagar e quase determina quanto tempo as pessoas devem passar na prisão. Assim, mais uma vez, a verdadeira questão é quem dita qual sistema de valores e considerações devem ser aplicados pela IA. Se a resposta a esta é o estado, então deve estar sujeito a uma supervisão extremamente rígida – governamental, pública e legal”.
Publicado em 27/01/2023 12h23
Artigo original: