Os cérebros evoluíram para fazer mais com menos. Pegue o cérebro de um minúsculo inseto, que tem menos de um milhão de neurônios, mas mostra uma diversidade de comportamentos e é mais eficiente em termos de energia do que os sistemas de IA atuais. Esses minúsculos cérebros servem como modelos para sistemas de computação que estão se tornando mais sofisticados à medida que bilhões de neurônios de silício podem ser implementados em hardware.
O segredo para atingir a eficiência energética está na capacidade dos neurônios de silício de aprender a se comunicar e formar redes, conforme mostrado por uma nova pesquisa do laboratório de Shantanu Chakrabartty, o professor Clifford W. Murphy do Departamento de Elétrica e Preston M. Green Engenharia de Sistemas na Washington University em St. Louis ‘McKelvey School of Engineering.
Seus resultados foram publicados em 28 de julho de 2021 na revista Frontiers in Neuroscience.
Por vários anos, seu grupo de pesquisa estudou abordagens de sistemas dinâmicos para abordar a lacuna de desempenho de neurônio para rede e fornecer um projeto para sistemas de IA tão eficientes em termos de energia quanto os biológicos.
Trabalhos anteriores de seu grupo mostraram que, em um sistema computacional, neurônios com spikes criam perturbações que permitem a cada neurônio “saber” quais outros estão fazendo spikes e quais estão respondendo. É como se os neurônios estivessem todos embutidos em uma folha de borracha formada por restrições de energia; uma única ondulação, causada por um pico, criaria uma onda que afetaria a todos. Como todos os processos físicos, os sistemas de neurônios de silício tendem a se auto-otimizar para seus estados menos energéticos, ao mesmo tempo em que são afetados pelos outros neurônios da rede. Essas restrições se reúnem para formar uma espécie de rede de comunicação secundária, onde informações adicionais podem ser comunicadas por meio da topologia de picos dinâmica, mas sincronizada. É como a folha de borracha vibrando em um ritmo sincronizado em resposta a vários picos.
Na última pesquisa, Chakrabartty e a estudante de doutorado Ahana Gangopadhyay mostraram como os neurônios aprendem a escolher as perturbações e padrões de onda mais eficientes em termos de energia na folha de borracha. Eles mostram que se a aprendizagem é guiada pela esparsidade (menos energia), é como se a rigidez elétrica da folha de borracha fosse ajustada por cada neurônio para que toda a rede vibrasse da maneira mais eficiente em termos de energia. O neurônio faz isso usando apenas informações locais que são comunicadas de forma mais eficiente. As comunicações entre os neurônios tornam-se então um fenômeno emergente guiado pela necessidade de otimizar o uso de energia.
Este resultado pode ter implicações significativas sobre como os sistemas neuromórficos de IA podem ser projetados. “Queremos aprender com a neurobiologia”, disse Chakrabartty. “Mas queremos ser capazes de explorar os melhores princípios da neurobiologia e da engenharia do silício.”
Historicamente, a engenharia neuromórfica – modelagem de sistemas de IA na biologia – foi baseada em um modelo relativamente simples do cérebro. Pegue alguns neurônios, algumas sinapses, conecte tudo junto, e voila, ele está … se não estiver vivo, pelo menos é capaz de realizar uma tarefa simples (reconhecer imagens, por exemplo) tão eficientemente, ou mais, do que um cérebro biológico. Esses sistemas são construídos conectando memória (sinapses) e processadores (neurônios), cada um realizando sua única tarefa, como se presumia que funcionasse no cérebro. Mas essa abordagem de uma estrutura para uma função, embora seja fácil de entender e modelar, perde toda a complexidade e flexibilidade do cérebro.
Pesquisas recentes sobre o cérebro mostraram que as tarefas não são divididas tão nitidamente, e pode haver casos em que a mesma função seja desempenhada por diferentes estruturas cerebrais, ou múltiplas estruturas trabalhando juntas. “Há cada vez mais informações mostrando que essa abordagem reducionista que seguimos pode não estar completa”, disse Chakrabartty.
A chave para construir um sistema eficiente que pode aprender coisas novas é o uso de energia e restrições estruturais como um meio para computação e comunicações ou, como Chakrabartty disse, “otimização usando dispersão”.
A situação lembra a teoria dos Seis Graus de Kevin Bacon: O desafio – ou restrição – é fazer conexões com o ator conectando seis ou menos pessoas.
Para um neurônio fisicamente localizado em um chip ser o mais eficiente: o desafio – ou restrição – é completar a tarefa dentro da quantidade de energia alocada. Pode ser mais eficiente para um neurônio se comunicar por meio de intermediários para chegar ao neurônio de destino. O desafio é como escolher o conjunto certo de neurônios “amigos” entre as muitas opções que podem estar disponíveis. Insira restrições de energia e dispersão.
Como um professor cansado, um sistema no qual a energia foi restrita também buscará a maneira menos resistente de completar uma tarefa atribuída. Ao contrário do professor, um sistema de IA pode testar todas as suas opções de uma vez, graças às técnicas de superposição desenvolvidas no laboratório de Chakrabartty, que usa métodos de computação analógicos. Em essência, um neurônio de silício pode tentar todas as rotas de comunicação ao mesmo tempo, encontrando a maneira mais eficiente de se conectar a fim de completar a tarefa atribuída.
O artigo atual mostra que uma rede de 1.000 neurônios de silício pode detectar odores com precisão com muito poucos exemplos de treinamento. O objetivo a longo prazo é procurar análogos no cérebro de um gafanhoto, que também se mostrou adepto da classificação de odores. Chakrabartty tem colaborado com Barani Raman, um professor do Departamento de Engenharia Biomédica, e Srikanth Singamaneni, Professor do The Lilyan & E. Lisle Hughes do Departamento de Engenharia Mecânica e Ciência de Materiais, para criar uma espécie de gafanhoto ciborgue – um com dois cérebros , um silício ligado ao biológico.
“Este seria o aspecto mais interessante e satisfatório desta pesquisa se e quando pudermos começar a conectar os dois reinos”, disse Chakrabartty. “Não apenas fisicamente, mas também funcionalmente.”
Publicado em 04/08/2021 19h00
Artigo original: