Feature-Transformation: Baum-Ensemble vs. SVM
Aus dem Englischen übersetzt. Maßgeblich ist der englische Text. Auf Englisch lesen
Fragestellung
Fragestellung:
- Die CML-Strategie von AiLA nutzt einen Schritt zur Feature-Transformation per Klassifikation, der bei nichtlinearen Zusammenhängen und bei der Regularisierung im Hinblick auf die potenziell große Zahl von Features helfen soll [Einzelheiten im Abschnitt zur CML-Modellierung].
- Welchen Nutzen bringt die Feature-Transformation?
- Was geschieht, wenn wir eine Baum-Ensemble-Methode durch SVM ersetzen?
Vorgehen:
- Konzentration auf die Präzision des Modells und die Anzahl positiv klassifizierter Tage als für die Wertentwicklung der Strategie relevante Kennzahlen.
- Kontrollierter Vergleich mit denselben Datenstichproben und demselben Architekturaufbau, die sich nur im Schritt der Feature-Transformation unterscheiden.
Überlegene Präzision:
- Anteil der Instanzen mit wahrem Label in der von der CML-Strategie prognostizierten Stichprobe abzüglich des Anteils in der gesamten Datenstichprobe.
- Die Mehrheit der Assets erzielt einen höheren Anteil wahrer Instanzen, und die Ergebnisse stimmen zwischen Validierungs- und Holdout-Daten überein.

Konsistenzprüfungen
- Die Studie weicht leicht von der Analyse im [Abschnitt zur CML-Modellierung] ab, etwa durch die Einbeziehung der Daten von 2021 und einen festen Satz von Hyperparametern.
- Trotz dieser leichten Abweichungen zeigte sich jedoch im Allgemeinen eine gute Übereinstimmung der Prognoseergebnisse.


Prognosegüte
- Die Prognoseergebnisse mit baumbasierter Feature-Transformation (FT) und ohne FT erwiesen sich als ähnlich, z. B. geringere Varianz gegenüber einem etwas höheren Mittelwert.
- Die größere Varianz ohne FT hängt mit der Tendenz zusammen, weniger Tage positiv zu klassifizieren (siehe nächste Folie).

Auswirkung der Feature-Transformation
- Feature-Transformation (FT) auf Basis des Baum-Ensemble-Modells:
- Sie verringert die Anzahl der Features (proportional zur Anzahl der Bäume) um mindestens eine Größenordnung.
- Die Präzision der Prognose bzw. die Wertentwicklung der vollständigen CML-Strategie ist ähnlich wie ohne Feature-Transformation.
- Allerdings klassifiziert das Modell durchweg einen größeren Anteil der Tage als positiv.
- Angesichts des geringen Prognosevorteils ist für eine relevante Wertentwicklung der Strategie eine große Zahl von „Handelstagen“ erforderlich. Der größere Anteil positiver Tage spricht daher für die baumbasierte FT gegenüber dem Verzicht auf FT.
- Feature-Transformation auf Basis eines SVM-Modells:
- Die Anzahl der Stützvektoren (SV) liegt typischerweise etwas über der Hälfte der Anzahl verwendeter Datenpunkte.
- Die Anzahl der Features, die aus den SV zusammen mit Kernel- und dualen Koeffizienten konstruiert werden, überstieg häufig die Anzahl der ursprünglichen Features.
- Mit der SVM-Variante zeigte sich in keinem Bereich eine Verbesserung gegenüber der baumbasierten FT.

Fazit
- Untersucht wurden die Auswirkungen der Feature-Transformation in der CML-Strategie, die derzeit auf einem Baum-Ensemble-Modell beruht.
- Die Studie wurde auf der Ebene der Modellprognose durchgeführt, um Unterschiede durch nachgelagerte Aspekte der Strategie zu vermeiden, konzentrierte sich aber auf Kennzahlen, die voraussichtlich für die endgültige Wertentwicklung der Strategie am relevantesten sind.
- Die aktuelle FT auf Basis eines Baum-Ensemble-Modells verringert die Anzahl der Features drastisch und führte zu einer ähnlichen Modellgüte wie der Verzicht auf FT, lieferte jedoch eine größere Zahl positiv klassifizierter Tage.
- Dies gilt als Vorteil, da der geringe Prognosevorteil viele „Handelstage“ für eine relevante Wertentwicklung der Strategie erfordert.
- Der Vergleich umfasste auch eine FT auf Basis eines SVM-Modells; gegenüber der baumbasierten FT zeigte sich jedoch in keinem Bereich eine Verbesserung.
