Em meados da década de 1990, havia pesquisas em andamento na Universidade de Stanford que mudariam a maneira como pensamos sobre os computadores. Os experimentos da Equação de Mídia foram simples: os participantes foram solicitados a interagir com um computador que agia socialmente por alguns minutos e, em seguida, forneceram feedback sobre a interação.
Os participantes forneceriam esse feedback no mesmo computador (Nº 1) em que haviam acabado de trabalhar ou em outro computador (Nº 2) do outro lado da sala. O estudo descobriu que os participantes que responderam no computador nº 2 foram muito mais críticos em relação ao computador nº 1 do que aqueles que responderam na mesma máquina em que trabalharam.
As pessoas que respondiam no primeiro computador pareciam não querer ferir os sentimentos do computador na cara, mas não tinham problemas em falar sobre ele pelas costas. Esse fenômeno ficou conhecido como paradigma dos computadores como atores sociais (CASA) porque mostrou que as pessoas estão programadas para responder socialmente à tecnologia que se apresenta até mesmo como vagamente social.
O fenômeno CASA continua a ser explorado, particularmente à medida que nossas tecnologias se tornaram mais sociais. Como pesquisador, conferencista e amante da robótica, observo esse fenômeno em meu trabalho toda vez que alguém agradece a um robô, atribui a ele um gênero ou tenta justificar seu comportamento com base em lógicas humanas ou antropomórficas.
O que testemunhei durante minha pesquisa é que, embora poucos tenham a ilusão de que robôs são pessoas, tendemos a acatá-los como faríamos com outra pessoa.
Tendências sociais
Embora isso possa soar como o início de um episódio do Black Mirror, essa tendência é precisamente o que nos permite desfrutar de interações sociais com robôs e colocá-los em papéis de cuidador, colaborador ou companheiro.
Os aspectos positivos de tratar um robô como uma pessoa é precisamente porque os roboticistas os projetam como tal – gostamos de interagir com as pessoas. À medida que essas tecnologias se tornam mais humanas, elas se tornam mais capazes de nos influenciar. No entanto, se continuarmos a seguir o caminho atual de implantação de robôs e IA, essas tecnologias podem emergir como muito mais distópicas do que utópicas.
Conheça Sophia, a Robô, e siga sua jornada enquanto ela viaja e aprende sobre o mundo. Sophia é o robô humano mais avançado da Hanson Robotics, criado pela combinação de inovações revolucionárias em robótica, IA e arte. Ela é dotada de expressividade, estética e interatividade notáveis e pode simular uma ampla gama de expressões faciais, rastrear e reconhecer rostos e manter conversas naturais com as pessoas.
O robô Sophia, fabricado pela Hanson Robotics, está em 60 Minutos, recebeu cidadania honorária da Arábia Saudita, detém um título das Nações Unidas e já saiu com o ator Will Smith. Embora Sophia indubitavelmente destaque muitos avanços tecnológicos, poucos superam as realizações de Hanson em marketing. Se Sophia fosse realmente uma pessoa, reconheceríamos seu papel de influenciadora.
No entanto, pior do que robôs ou IA sendo agentes sociopatas – orientados a objetivos sem moralidade ou julgamento humano – essas tecnologias se tornam ferramentas de influência de massa para qualquer organização ou indivíduo que as controle.
Se você achava que o escândalo Cambridge Analytica era ruim, imagine o que os algoritmos de influência do Facebook poderiam fazer se tivessem um rosto semelhante ao de um humano. Ou mil faces. Ou um milhão. O verdadeiro valor de uma tecnologia persuasiva não está em sua eficiência fria e calculada, mas em sua escala.
Vendo através da intenção
Escândalos e exposições recentes no mundo da tecnologia deixaram muitos de nós nos sentindo impotentes contra esses gigantes corporativos. Felizmente, muitos desses problemas podem ser resolvidos por meio da transparência.
Existem questões fundamentais que são importantes para as tecnologias sociais responderem, porque esperaríamos as mesmas respostas ao interagir com outra pessoa, embora muitas vezes de forma implícita. Quem possui ou define o mandato desta tecnologia? Quais são seus objetivos? Que abordagens ele pode usar? Quais dados ele pode acessar?
Uma vez que os robôs podem ter o potencial de alavancar capacidades sobre-humanas, realizando a vontade de um proprietário invisível e sem mostrar pistas verbais ou não-verbais que iluminem sua intenção, devemos exigir que esses tipos de perguntas sejam respondidas explicitamente.
Como roboticista, me perguntam: “Quando os robôs dominarão o mundo?” com tanta frequência que desenvolvi uma resposta padrão: “Assim que eu mandar.” No entanto, minha piada é sustentada por uma lição importante: não use máquinas de bode expiatório para decisões tomadas por humanos.
Eu me considero um simpatizante dos robôs porque acho que os robôs são injustamente culpados por muitas decisões e erros humanos. É importante que nos lembremos periodicamente de que um robô não é seu amigo, seu inimigo ou qualquer coisa no meio. Um robô é uma ferramenta, manejada por uma pessoa (embora distante), e cada vez mais usada para nos influenciar.
Publicado em 25/11/2021 10h02
Artigo original:
Estudo original: