Os problemas de otimização envolvem a identificação da melhor solução possível entre várias possibilidades. Esses problemas podem ser encontrados em configurações do mundo real, bem como na maioria dos campos de pesquisa científica.
Nos últimos anos, os cientistas da computação desenvolveram métodos computacionais cada vez mais avançados para resolver problemas de otimização. Algumas das técnicas mais promissoras desenvolvidas até agora são baseadas em redes neurais artificiais (RNAs).
Pesquisadores do Vector Institute, da University of Waterloo e do Perimeter Institute for Theoretical Physics no Canadá desenvolveram recentemente o recozimento neural variacional, um novo método de otimização que mescla redes neurais recorrentes (RNNs) com o princípio de recozimento. Esta nova técnica, introduzida em artigo publicado na Nature Machine Intelligence, funciona generalizando a distribuição das soluções possíveis para um determinado problema a partir de um modelo parametrizado.
“O tópico de nossa pesquisa recente está na interseção entre aprendizado de máquina, física estatística e física quântica”, disse Mohamed Hibat-Allah, um dos pesquisadores que realizou o estudo, ao TechXplore. “Mais especificamente, ele visa resolver a otimização do mundo real por meio de um novo algoritmo baseado na teoria de recozimento e RNNs emprestados do campo de processamento de linguagem natural (PNL).”
A ideia para este artigo recente surgiu durante uma série de conversas entre o Hibat-Allah e seus colaboradores. Por fim, os pesquisadores decidiram criar um novo algoritmo que superasse os métodos de otimização existentes com base nos princípios de recozimento clássico e quântico.
“Na época, eu estava ensinando em uma escola em Bogotá com Juan Carrasquilla e Roger Melko”, disse Estelle M. Inack, outra pesquisadora envolvida no estudo, ao TechXplore. “Durante uma de nossas conversas, Juan me sugeriu a ideia de usar recozimento em uma configuração de Monte Carlo variada. Quando voltamos para Waterloo, ele me colocou em contato com Mohamed, seu aluno de Ph.D. na época. como nosso projeto começou. ”
Alguns dos problemas de otimização mais difíceis são conhecidos como problemas difíceis de tempo polinomial não determinístico (NP). Essencialmente, isso significa que eles são altamente complexos e não podem ser resolvidos usando métodos computacionais simples ou resolvê-los exigiria uma quantidade enorme de tempo.
Como algoritmos simples não podem resolver esses problemas de maneira eficaz, pesquisadores em todo o mundo têm tentado criar técnicas mais eficientes que pudessem resolvê-los em escalas de tempo realistas. A abordagem criada por Hibat-Allah, Inack e seus colegas é um dos esforços mais recentes voltados para abordar problemas de otimização de forma mais eficiente.
“A estrutura que apresentamos é baseada no princípio de recozimento”, explicou Hibat-Allah. “Este último é inspirado no recozimento na metalurgia, onde se pode aquecer um material e deixá-lo esfriar lentamente para levá-lo a um estado de menor energia, mais robusto e estável. Esse processo inspirou a invenção do recozimento simulado , que visa encontrar soluções numéricas para problemas de otimização. ”
A característica mais característica do método de otimização introduzido por este grupo de pesquisa é que ele combina a eficiência e o poder computacional das RNAs com as vantagens das técnicas de recozimento simulado. Mais especificamente, Hibat-Allah, Inack e seus colegas usaram RNNs, uma classe de algoritmos que foram considerados particularmente promissores para aplicativos de PNL. Enquanto nos estudos de PNL esses algoritmos são treinados para processar a linguagem humana, os pesquisadores os redefiniram e os treinaram para resolver problemas de otimização.
“Em termos simples, se você pensar em um problema de otimização como uma paisagem acidentada cheia de vales, a versão clássica do recozimento visa encontrar o ponto mais baixo da paisagem pulando barreiras usando flutuações térmicas”, disse Hibat-Allah. “Por outro lado, a versão quântica do recozimento tenta resolver esse problema cavando túneis através das barreiras na esperança de encontrar vales mais profundos.”
Usando RNNs, Hibat-Allah, Inack e seus colegas descobriram que eram capazes de resolver problemas de otimização com mais eficiência. Na verdade, em contraste com as implementações numéricas mais convencionais de recozimento, seu método baseado em RNN fez escolhas mais inteligentes, melhorando a eficiência dos métodos de recozimento clássico e quântico.
“Demonstramos a capacidade de codificar o paradigma de recozimento com redes autoregressivas e o desempenho que é derivado em relação ao recozimento clássico e quântico simulado padrão é a conquista mais importante de nosso estudo”, disse Inack. “Nosso trabalho leva a solução de problemas de otimização a uma nova dimensão que explora diretamente as infraestruturas usadas para treinar redes neurais avançadas, por meio de iteração rápida usando, por exemplo, TensorFlow ou Pytorch acelerado em GPUs / TPUs.”
Hibat-Allah, Inack e seus colegas avaliaram sua abordagem em uma série de testes, comparando seu desempenho com o de métodos de otimização de recozimento padrão baseados em simulações numéricas. Sua estrutura superou todas as técnicas com as quais comparou em diferentes problemas de otimização prototípica. No futuro, o algoritmo introduzido por esta equipe de pesquisadores poderá ser aplicado a vários problemas de otimização do mundo real, ajudando especialistas em uma variedade de campos a resolver esses problemas de forma mais eficiente.
“Nosso artigo recente resultou em um pedido de patente”, disse Inack. “Meu plano é usar a estrutura que desenvolvemos em minha startup recém-criada, yiyaniQ, para obter cálculos de precificação de derivativos mais rápidos e precisos.”
Em seus próximos estudos, os pesquisadores planejam testar o desempenho de seu algoritmo em problemas mais realistas, ao mesmo tempo em que o compara com o de outras técnicas de otimização de última geração. Além disso, eles esperam desenvolver sua técnica ainda mais, substituindo alguns de seus componentes ou integrando outros adicionais.
“Também seria interessante melhorar nosso método usando arquiteturas de rede neural mais avançadas ou escolhendo diferentes esquemas de resfriamento durante o recozimento”, acrescentou Hibat-Allah. “Não sabemos ainda quanta melhoria podemos obter, mas podemos aprender muito com essas investigações e, potencialmente, encontrar um algoritmo melhor que pode melhorar as soluções atuais para problemas de otimização.”
Publicado em 13/11/2021 12h59
Artigo original:
Estudo original: