Daniel Kahneman: “Claramente a IA vai ganhar. Como as pessoas vão se ajustar é um problema fascinante”
O psicólogo ganhador do Nobel sobre a aplicação de suas ideias em organizações, por que não estamos equipados para compreender a propagação de um vírus e a enorme perturbação que está chegando.
Daniel Kahneman, 87 anos, recebeu o prêmio Nobel de economia em 2002 por seu trabalho sobre a psicologia do julgamento e da tomada de decisão. Seu primeiro livro, Thinking, Fast and Slow, um best-seller mundial, expôs suas idéias revolucionárias sobre erro humano e preconceito e como essas características podem ser reconhecidas e mitigadas. Um novo livro, Noise: A Flaw in Human Judgment, escrito com Olivier Sibony e Cass R Sunstein, aplica essas ideias às organizações. Esta entrevista ocorreu na semana passada por Zoom com Kahneman em sua casa em Nova York.
Acho que a pandemia é um bom lugar para começar. De certa forma, foi o maior experimento já feito hora a hora na tomada de decisões políticas globais. Você acha que é um divisor de águas no entendimento de que precisamos “ouvir a ciência”?
Sim e não, porque claramente não dar ouvidos à ciência é ruim. Por outro lado, a ciência demorou bastante para agir.
Um dos principais problemas parece ter sido a incapacidade generalizada de compreender a ideia básica de crescimento exponencial. Isso te surpreende?
Fenômenos exponenciais são quase impossíveis de entender. Temos muita experiência em um mundo mais ou menos linear. E se as coisas estão acelerando, geralmente estão acelerando dentro do razoável. A mudança exponencial [como com a propagação do vírus] é realmente outra coisa. Não estamos equipados para isso. Leva muito tempo para educar a intuição.
Você acha que a cacofonia de opinião nas redes sociais agrava isso?
Eu sei muito pouco sobre mídia social, há uma lacuna geracional muito grande. Mas claramente o potencial de disseminação de desinformação cresceu. É um novo tipo de mídia que essencialmente não tem responsabilidade pela precisão e nem mesmo pelos controles de reputação.
Você poderia definir o que quer dizer com “ruído” no livro, em termos leigos – como isso difere de coisas como subjetividade ou erro?
Nosso assunto principal é realmente o ruído do sistema. O ruído do sistema não é um fenômeno dentro do indivíduo, é um fenômeno dentro de uma organização ou dentro de um sistema que deve chegar a decisões uniformes. É realmente uma coisa muito diferente da subjetividade ou preconceito. Você tem que olhar estatisticamente para um grande número de casos. E então você vê barulho.
Alguns dos exemplos que você descreve – a variação extraordinária observada na condenação pelos mesmos crimes (mesmo influenciada por questões externas como o clima ou os resultados do futebol no fim de semana), digamos, ou as enormes discrepâncias na subscrição de seguros ou diagnóstico médico ou entrevistas de emprego com base nas mesmas informações básicas – são chocantes. O motivador desse ruído muitas vezes parece estar no status de proteção dos “especialistas” que fazem a escolha. Imagino que nenhum juiz queira reconhecer que um algoritmo seria mais justo para fazer justiça?
O sistema judicial, eu acho, é especial de certa forma, porque é uma pessoa “sábia” que está decidindo. Você tem muito barulho na medicina, mas na medicina existe um critério objetivo de verdade.
Você já participou de um júri ou passou muito tempo em tribunais?
Eu não tenho. Mas eu tive muitas conversas com juízes sobre a possibilidade de fazer pesquisas sobre como o ruído afeta seu julgamento. Mas, você sabe, não é do interesse da comunidade judicial se auto-investigar.
Suponho que as pessoas sejam instintiva ou emocionalmente ainda mais inclinadas a confiar em sistemas humanos do que em processos mais abstratos.
Certamente é esse o caso. Vemos isso, por exemplo, em termos da atitude em relação à vacinação. As pessoas estão dispostas a correr muito, muito menos riscos quando enfrentam a vacinação do que quando enfrentam a doença. Portanto, essa lacuna entre o natural e o artificial é encontrada em toda parte. Em parte porque, quando a inteligência artificial comete um erro, esse erro parece completamente tolo ou quase maligno para os humanos.
Você não fala sobre carros sem motorista em sua análise. Mas isso, eu acho, está se tornando a principal arena desse argumento, não é? Por mais que os carros automatizados possam ser estatisticamente mais seguros, cada vez que eles causam um acidente, ele será excessivamente ampliado?
Ser muito mais seguro do que as pessoas não será suficiente. O fator pelo qual eles têm que ser mais seguros do que os humanos é realmente muito alto.
Já se passaram 50 anos desde que você e o falecido Amos Tversky começaram a pesquisar essas questões. Você acha que suas conclusões sobre o preconceito humano mensurável e a falibilidade deveriam ter sido mais amplamente compreendidas agora?
Você sabe, não tínhamos nenhuma expectativa particular de mudar o mundo quando fizemos nossa pesquisa. E minha própria experiência de quão pouco esse conhecimento mudou a qualidade de meu próprio julgamento pode ser preocupante. Evitar ruídos no julgamento não é realmente algo em que as pessoas sejam muito boas. Eu realmente coloco minha fé, se é que existe alguma fé a ser depositada, nas organizações.
Eu me pergunto se você vê seu trabalho em quase uma tradição satírica, destacando a loucura humana?
Na verdade. Eu me considero um psicólogo bastante objetivo. Obviamente, os humanos são limitados. Mas eles também são maravilhosos. Em Thinking, Fast and Slow, eu realmente estava tentando falar sobre as maravilhas do pensamento intuitivo e não apenas sobre suas falhas – mas as falhas são mais divertidas, então há mais atenção prestada a elas.
Uma das coisas que me impressionaram ao ler o livro é que, por mais que os indivíduos e organizações professem o desejo de ser eficientes e racionais, há uma parte fundamental de nós que está entediada com a previsibilidade e só quer jogar os dados. Você acha que leva isso em consideração o suficiente?
Existem muitos domínios em que você realmente deseja diversidade e criatividade. Mas também há necessidade de uniformidade em tarefas bem definidas. Se o esforço de uniformização deixa as pessoas desmotivadas ou se torna excessivamente burocrático, isso por si só pode ser um problema. Isso é algo que as organizações terão que negociar.
Fiquei impressionado ao assistir as eleições americanas com a frequência com que políticos de ambos os lados apelavam a Deus por orientação ou ajuda. Você não fala sobre religião no livro, mas a fé sobrenatural aumenta o ruído?
Acho que há menos diferença entre religião e outros sistemas de crenças do que pensamos. Todos nós gostamos de acreditar que estamos em contato direto com a verdade. Direi que, em alguns aspectos, minha crença na ciência não é muito diferente da crença de outras pessoas na religião. Quer dizer, eu acredito na mudança climática, mas não tenho ideia sobre isso realmente. O que eu acredito são as instituições e métodos das pessoas que me dizem que existe mudança climática. Não devemos pensar que, por não sermos religiosos, isso nos torna muito mais inteligentes do que pessoas religiosas. A arrogância dos cientistas é algo em que penso muito.
Você termina seu livro com algumas idéias para eliminar ruídos, criar listas de verificação para a tomada de decisões, ter “observadores de decisão designados” e assim por diante. Lembrei-me daqueles estudos que mostram como os esforços corporativos para reduzir o preconceito racial e de gênero inconsciente por meio do treinamento obrigatório foram ineficazes ou contraproducentes. Como você leva em consideração tais consequências imprevistas?
Sempre existe o risco disso. E essas ideias que você mencionou ainda não foram testadas, mas achamos que vale a pena considerar. Outros no livro são baseados em mais experiência, são mais sólidos.
Você acha que há perigos maiores no uso de dados e IA para aumentar ou substituir o julgamento humano?
Haverá consequências massivas dessa mudança que já estão começando a acontecer. Algumas especialidades médicas estão claramente em perigo de serem substituídas, certamente em termos de diagnóstico. E existem cenários bastante assustadores quando você está falando sobre liderança. Uma vez que seja comprovadamente verdade que você pode ter uma IA com um julgamento de negócios muito melhor, digamos, o que isso fará com a liderança humana?
Já estamos vendo uma reação contra isso? Eu acho que uma maneira de entender as vitórias eleitorais de Trump e Johnson é como uma reação contra um mundo cada vez mais complexo de informações – o apelo deles é que eles são simples chancers impulsivos. É provável que vejamos mais desse populismo?
Aprendi a nunca fazer previsões. Não apenas eu certamente não posso fazer isso – não tenho certeza se pode ser feito. Mas uma coisa que parece muito provável é que essas grandes mudanças não acontecerão silenciosamente. Haverá uma interrupção massiva. A tecnologia está se desenvolvendo muito rapidamente, possivelmente de forma exponencial. Mas as pessoas são lineares. Quando as pessoas lineares se deparam com uma mudança exponencial, elas não serão capazes de se adaptar a isso facilmente. Então, claramente, algo está vindo … E claramente a IA vai vencer [contra a inteligência humana]. Não está nem perto. Como as pessoas vão se ajustar a isso é um problema fascinante – mas para meus filhos e netos, não para mim.
Sua própria vida começou com uma incerteza ainda mais extrema – como um menino na França ocupada: seu pai foi preso pelos nazistas como judeu, depois poupado e sua família fugiu para um esconderijo. Quanto do seu interesse ao longo da vida por essas questões – a necessidade de entender as motivações humanas – estava enraizado nessas ansiedades e medos que você acha?
Quando olho para trás, acho que sempre serei psicóloga. Desde muito jovem tive curiosidade sobre como funciona a mente. Não acho que minha história pessoal tenha muito a ver com isso, ela sempre esteve lá.
Você sente que ainda é fundamentalmente a criança que era quando tinha seis ou sete anos?
sim. Certamente há uma continuidade. Ainda posso reconhecer algo dentro de mim.
Quando você embarcou neste trabalho, você poderia imaginar que ainda seria duro nisso aos 87 anos?
Não, imaginei que estaria morto! Mas, para minha surpresa, ainda tenho a mesma curiosidade. Estou colaborando em vários projetos e investigações desde que terminei o livro. Uma é como a incapacidade de resolver o famoso “problema do bastão e da bola” se correlaciona com a crença em Deus e que o 11 de setembro foi uma conspiração. É tudo tão divertido para mim como sempre foi.
Publicado em 21/05/2021 11h19
Artigo original: