A gestão de risco de modelos precisa evoluir para acompanhar a IA generativa.
O estudo mostra que os modelos usados no setor financeiro passaram por três gerações: modelos tradicionais, machine learning e sistemas de IA generativa e agentic AI. Enquanto os modelos tradicionais eram mais transparentes, determinísticos e controláveis, os sistemas atuais operam com maior complexidade, menor previsibilidade e mais dependência de terceiros.
A principal tese do relatório é que o Model Risk Management (MRM) não pode mais depender apenas de validações periódicas. Com LLMs e agentes autônomos, os riscos deixam de estar apenas na estrutura interna do modelo e passam a surgir também no comportamento do sistema, nas respostas geradas, nas mudanças de fornecedores, nos prompts, nas integrações e nas decisões tomadas de forma autônoma.
Para lidar com esse novo cenário, o estudo propõe uma abordagem baseada em governança contínua, com controles como monitoramento em tempo real, guardrails dinâmicos, testes adversariais, trilhas de auditoria, controle de versões, modelos de contingência e supervisão humana em decisões críticas. A ideia central é monitorar o comportamento do sistema como um todo, não apenas validar componentes isolados.
O relatório também apresenta um estudo de caso do Early Warning System da Moody’s, que combina modelos tradicionais, machine learning e LLMs para transformar notícias em sinais de risco de crédito. O exemplo mostra que é possível capturar ganhos relevantes com IA, desde que existam limites claros de controle, evidências contínuas de desempenho e intervenção humana quando necessário.
Para ter acesso a esse e outros estudos, associe-se aqui!
Associados: para acessar o estudo entre na área exclusiva.
