Transformação de variáveis: ensemble de árvores vs. SVM
Traduzido do inglês. O texto em inglês é a referência. Ler em inglês
Perguntas
Perguntas:
- A estratégia CML da AiLA usa uma etapa de transformação de variáveis (features) por meio de classificação, destinada a ajudar com relações não lineares e com a regularização relacionada ao número potencialmente grande de variáveis [detalhes na seção sobre modelagem CML].
- Qual é o benefício da transformação de variáveis?
- O que acontece se substituirmos um método de ensemble de árvores por SVM?
Abordagem:
- Concentrar-se na precisão do modelo e no número de dias classificados como positivos, como métricas relevantes em relação ao desempenho da estratégia.
- Controlar a comparação usando as mesmas amostras de dados e a mesma configuração de arquitetura, que diferem apenas na etapa de transformação de variáveis.
Precisão excedente:
- Fração de instâncias com rótulo verdadeiro na amostra prevista pela estratégia CML, menos a fração em toda a amostra de dados.
- A maioria dos ativos apresenta uma fração maior de instâncias verdadeiras, e os resultados são consistentes entre os dados de validação e de holdout.

Verificações de consistência
- O estudo inclui pequenas diferenças em relação à análise da [seção sobre modelagem CML], como a inclusão de dados de 2021 e um conjunto fixo de hiperparâmetros.
- No entanto, de modo geral, constatou-se uma boa consistência entre os resultados de previsão, dadas essas pequenas diferenças.


Desempenho de previsão
- Os resultados de previsão mostraram-se semelhantes com a transformação de variáveis (FT) baseada em árvores e sem FT, por exemplo, variância menor vs. média ligeiramente maior.
- A variância maior observada quando não se usa nenhuma FT está relacionada à tendência de classificar menos dias como positivos (ver o próximo slide).

Impacto da transformação de variáveis
- A transformação de variáveis (FT) baseia-se no modelo de ensemble de árvores:
- Reduz o número de variáveis (proporcional ao número de árvores) em pelo menos uma ordem de grandeza.
- Precisão/desempenho de previsão da estratégia CML completa semelhante ao obtido sem nenhuma transformação de variáveis.
- No entanto, com uma fração consistentemente maior de dias classificados como positivos pelo modelo.
- Dada a pequena vantagem preditiva, é necessário um grande número de “dias de negociação” para um desempenho relevante da estratégia, o que faz com que a maior fração de dias positivos favoreça o uso da FT baseada em árvores em vez de nenhuma FT.
- Transformação de variáveis baseada em modelo SVM:
- Normalmente, um número de vetores de suporte (SV) ligeiramente superior à metade do número de pontos de dados usados.
- O número de variáveis, construídas com os SV juntamente com o kernel e os coeficientes duais, frequentemente excedeu o número de variáveis originais.
- Não se observou nenhuma área de melhora com a versão SVM em relação à FT baseada em árvores.

Conclusões
- Investigaram-se as implicações do uso de uma transformação de variáveis na estratégia CML, atualmente baseada em um modelo de ensemble de árvores.
- O estudo foi feito no nível das previsões do modelo, para evitar diferenças introduzidas por aspectos downstream da estratégia, mas concentrou-se nas métricas que devem ser mais relevantes para o desempenho final da estratégia.
- A FT atual, baseada em um modelo de ensemble de árvores, reduz drasticamente o número de variáveis e resultou em um desempenho do modelo semelhante ao obtido sem nenhuma FT, mas gerando um número maior de dias classificados como positivos.
- Isso é considerado uma vantagem, dado que a pequena vantagem preditiva exige muitos “dias de negociação” para um desempenho relevante da estratégia.
- A comparação incluiu também uma FT baseada em um modelo SVM; no entanto, não se observou nenhuma área de melhora em comparação com a FT baseada em árvores.
