Transformation des variables : ensemble d’arbres et SVM

Traduit de l’anglais. Le texte anglais fait foi. Lire en anglais

Questions

Questions :

  • La stratégie CML d’AiLA comporte une étape de transformation des variables explicatives (features) par classification, destinée à mieux traiter les relations non linéaires et à assurer la régularisation face à un nombre de variables potentiellement élevé [détails dans la section consacrée à la modélisation CML].
  • Quel est l’apport de la transformation des variables ?
  • Que se passe-t-il si l’on remplace la méthode d’ensemble d’arbres par une machine à vecteurs de support (SVM) ?

Approche :

  • Se concentrer sur la précision du modèle et sur le nombre de jours classés positifs, indicateurs pertinents pour la performance de la stratégie.
  • Contrôler la comparaison en utilisant les mêmes échantillons de données et la même architecture, seule l’étape de transformation des variables différant.

Surperformance en précision :

  • Part des instances à étiquette vraie dans l’échantillon prédit par la stratégie CML, moins leur part dans l’ensemble de l’échantillon de données.
  • La majorité des actifs présentent une part d’instances vraies plus élevée, avec des résultats cohérents entre données de validation et données réservées (holdout).

Contrôles de cohérence

  • L’étude présente de légères différences par rapport à l’analyse de la [section consacrée à la modélisation CML], comme l’inclusion des données de 2021 et un jeu fixe d’hyperparamètres.
  • Compte tenu de ces légères différences, les résultats de prédiction se sont toutefois révélés globalement très cohérents.

Performance de prédiction

  • Les résultats de prédiction sont similaires avec une transformation des variables (FT) fondée sur les arbres et sans FT : variance plus faible dans un cas, moyenne légèrement plus élevée dans l’autre.
  • La variance plus élevée observée sans FT tient à une tendance à classer moins de jours comme positifs (voir la diapositive suivante).

Impact de la transformation des variables

  • Transformation des variables (FT) fondée sur le modèle d’ensemble d’arbres :
    • elle réduit le nombre de variables (proportionnel au nombre d’arbres) d’au moins un ordre de grandeur ;
    • la précision et la performance de prédiction de la stratégie CML complète sont similaires à celles obtenues sans transformation des variables ;
    • la part des jours classés positifs par le modèle est toutefois systématiquement plus élevée.
  • L’avantage prédictif étant faible, un grand nombre de « jours de trading » est nécessaire pour obtenir une performance de stratégie pertinente ; la part plus élevée de jours positifs plaide donc en faveur de la FT fondée sur les arbres plutôt que de l’absence de FT.
  • Transformation des variables fondée sur un modèle SVM :
    • le nombre de vecteurs de support (SV) dépasse généralement un peu la moitié du nombre de points de données utilisés ;
    • le nombre de variables, construites à partir des SV, du noyau et des coefficients duaux, dépassait souvent le nombre de variables d’origine ;
    • la version SVM n’a apporté aucune amélioration par rapport à la FT fondée sur les arbres.

Conclusions

  • Nous avons étudié les effets de l’utilisation d’une transformation des variables dans la stratégie CML, actuellement fondée sur un modèle d’ensemble d’arbres.
  • L’étude a été menée au niveau des prédictions du modèle, afin d’éviter les écarts introduits par les étapes aval de la stratégie, tout en se concentrant sur les indicateurs jugés les plus pertinents pour la performance finale de la stratégie.
  • La FT actuelle, fondée sur un modèle d’ensemble d’arbres, réduit considérablement le nombre de variables et donne une performance de modèle similaire à celle obtenue sans FT, tout en produisant un plus grand nombre de jours classés positifs.
  • C’est un avantage, puisque la faiblesse de l’avantage prédictif impose de nombreux « jours de trading » pour obtenir une performance de stratégie pertinente.
  • La comparaison a également porté sur une FT fondée sur un modèle SVM, sans qu’aucune amélioration soit observée par rapport à la FT fondée sur les arbres.
Partagez vos perspectives