doi.org/10.48550/arXiv.2403.10596
Credibilidade: 888
#Inteligência Artificial
Nos últimos anos, os desenvolvedores introduziram sistemas de inteligência artificial (IA) que podem simular ou reproduzir diversas habilidades humanas, como reconhecer objetos em imagens, responder perguntas e muito mais. No entanto, em contraste com a mente humana, que pode deteriorar-se ao longo do tempo, estes sistemas normalmente mantêm o mesmo desempenho ou até melhoram as suas competências ao longo do tempo.
Pesquisadores da Universidade da Califórnia, Irvine, tentaram recentemente emular o envelhecimento e a neurodegeneração biológica (ou seja, a perda progressiva de neurônios e o declínio associado das capacidades mentais) em agentes de IA.
O seu artigo, pré-publicado no arXiv, poderá informar o desenvolvimento futuro de sistemas inovadores de IA que aproveitem esta “neurodegeneração artificial? para executar tarefas específicas.
“A ideia original para este estudo surgiu durante um jantar com o Dr. Baldi e o Dr. Pishgar, onde discutimos uma ampla gama de tópicos vagamente relacionados em neurodegeneração, aprendizagem e segurança de IA”, Yu-Dai Tsai, co-autor de o jornal, disse ao Tech Xplore.
“Além disso, meu pai passou recentemente por um grave trauma cerebral e experimentou um declínio cognitivo, o que me inspirou a pensar mais sobre esse assunto de um novo ângulo e suas aplicações diretas na ciência da computação e no deep learning em particular”.
Este estudo recente realizado por Tsai e seus colaboradores não teve como objetivo replicar artificialmente doenças cerebrais humanas.
Em vez disso, a equipe queria produzir declínios cognitivos em agentes de IA com o objetivo de compreender melhor sistemas complexos, melhorando potencialmente a sua interpretabilidade e segurança.
“Usamos testes de QI realizados por grandes modelos de linguagem (LLMs) e, mais especificamente, pelo LLaMA 2, para introduzir o conceito de “erosão neural””, explicou Tsai.
“Essa erosão deliberada envolve a ablação de sinapses ou neurônios ou a adição de ruído gaussiano durante ou após o treinamento, resultando em um declínio controlado no desempenho dos LLMs.” Os investigadores descobriram que quando deliberadamente ablacionavam (ou seja, removiam) algumas das sinapses ou neurónios artificiais do modelo LLaMA 2, o seu desempenho em testes de QI diminuía, seguindo um padrão específico.
As suas observações poderão lançar uma nova luz sobre o funcionamento de sistemas complexos de IA e sobre as capacidades que são as primeiras e as últimas a diminuir quando a sua estrutura subjacente é comprometida.
“Além de estabelecer a estrutura geral, talvez a descoberta mais interessante deste estudo seja que o LLM perde habilidades de pensamento abstrato, seguido por degradação matemática e, em última análise, uma perda na capacidade linguística, respondendo a solicitações de forma incoerente”, disse Tsai.
“Estamos agora realizando mais testes para entender melhor esse padrão observado”.
Os investigadores descobriram que quando sinapses e neurónios artificiais são removidos dos sistemas de IA, estes sistemas primeiro perdem a capacidade de pensar de forma abstrata, depois perdem as suas capacidades matemáticas e, finalmente, perdem as suas competências linguísticas (ou seja, são incapazes de responder às solicitações de forma coerente).
Curiosamente, este padrão de “neuroerosão? está alinhado com os padrões de neurodegeneração observados em humanos.
No futuro, este trabalho recente de Tsai e seus colaboradores poderá inspirar outros grupos de pesquisa a explorar a neurodegeneração dedicada em agentes de IA, indo além de trabalhos anteriores focados na reprodução da neurodegeneração humana.
Coletivamente, esses trabalhos poderiam abrir caminho para o desenvolvimento de novas técnicas que aproveitem os padrões de neuroerosão observados na IA para resolver problemas do mundo real.
“Este é o primeiro de uma série de estudos que estão por vir.
Planejamos desenvolver nosso estudo em testes específicos de sistemas de IA e estender a emulação a outras doenças neurais e à neurodiversidade”, acrescentou Tsai.
“Além disso, aplicaremos nossos métodos para melhorar a segurança e a interpretabilidade da IA.
Também estamos ansiosos para ter mais colaborações e discussões com neurocientistas; no entanto, nosso foco principal continua sendo a exploração de novas fronteiras nos estudos de IA, em vez de replicar doenças cerebrais humanas.”
Publicado em 28/04/2024 19h40
Artigo original:
Estudo original: