Doutorando do IMPA apresenta duas abordagens desenvolvidas para melhorar o treinamento de redes neurais aplicadas à propagação de ondas
O IMPA participa do XLV Congresso Nacional de Matemática Aplicada e Computacional (CNMAC), de 14 a 18 de setembro, na Unesp, em Presidente Prudente (SP), com a apresentação de duas abordagens desenvolvidas por pesquisadores e doutorandos do Centro Pi para lidar com limitações de redes neurais na solução de equações diferenciais. Os resultados, que serão apresentados pelo doutorando do IMPA Márcio Marques, surgiram a partir de desafios encontrados em um projeto desenvolvido pelo Centro Pi com a Petrobras.
Intitulada Overcoming Spectral Bias and Lacks of Causality, a apresentação integra um minissimpósio, dedicado à modelagem de fenômenos complexos em dinâmica dos fluidos. Marques vai mostrar como os pesquisadores enfrentaram dois desafios identificados durante o desenvolvimento do projeto: o chamado spectral bias, relacionado à dificuldade das redes neurais em aprender componentes de alta frequência, e a falta de causalidade no treinamento de modelos para problemas que evoluem ao longo do tempo.
Em fenômenos de propagação de ondas, diferentes frequências podem compor uma mesma solução. As redes neurais, porém, tendem a aprender primeiro as componentes de baixa frequência. O resultado pode ser uma representação menos detalhada do fenômeno, especialmente em problemas mais complexos.
“Você pode decompor uma onda em várias frequências. A rede neural tem uma dificuldade maior de aprender as frequências mais altas. Então, se ela aprende só as frequências mais baixas, a solução fica meio borrada”, explica Marques.
O segundo desafio está relacionado à causalidade. Em métodos numéricos tradicionais, problemas que dependem do tempo são resolvidos de forma sequencial: o estado em um determinado momento depende das informações dos momentos anteriores. Nas redes neurais, diferentes pontos do espaço e do tempo podem ser considerados simultaneamente durante o treinamento.
“Quando você está resolvendo uma equação da onda, por exemplo, você tem uma condição inicial e, a partir dela, a onda vai se propagando. O método numérico entende essa causalidade. A rede neural não necessariamente entende”, afirma o pesquisador.
A partir desses desafios, os pesquisadores e doutorandos desenvolveram duas soluções. A primeira combina diferentes estratégias para tornar mais estável o treinamento de redes neurais informadas pela física, conhecidas como Physics-Informed Neural Networks (PINNs), e melhorar a qualidade das simulações.
O trabalho resultante foi publicado em 2025 no Journal of the Acoustical Society of America Express Letters, com o título Stable adaptive training for physics-informed neural networks in acoustic wave propagation.
A segunda abordagem deu origem a uma nova arquitetura de rede neural, desenvolvida para lidar com as dificuldades relacionadas às frequências e incorporar uma estrutura causal inspirada em métodos numéricos. O trabalho, Neuro-Spectral Architectures for Causal Physics-Informed Networks, foi publicado nos anais da NeurIPS 2025, uma das principais conferências internacionais de aprendizado de máquina.
As duas soluções foram desenvolvidas ao longo da primeira etapa do projeto do Centro Pi com a Petrobras, voltada à aplicação de técnicas de Scientific Machine Learning a problemas de inversão sísmica. Durante o trabalho, a equipe testou diferentes técnicas disponíveis na literatura e encontrou dificuldades para obter resultados satisfatórios nos problemas mais complexos estudados.
“Foi um ano para a gente chegar no estado da arte”, conta Marques. Para ele, o desenvolvimento das soluções mostra como as dificuldades encontradas na aplicação dos métodos a problemas mais complexos também podem orientar novas frentes de pesquisa.
“Existem vários resultados que chegam a níveis de precisão muito melhores do que o nosso, mas são em problemas bem mais simples. Tem poucas pessoas testando nos problemas que a gente testa, que são problemas mais complexos. Então, eu acho que os resultados são relevantes”, avalia.