피처 변환: 트리 앙상블과 SVM 비교

영어 원문을 번역한 페이지입니다. 영어 원문이 기준입니다. 영어 원문 보기

질문

질문:

  • AiLA의 CML 전략은 분류를 이용한 피처 변환 단계를 사용하며, 이는 비선형 관계에 대응하고 잠재적으로 많은 피처 수와 관련된 정규화에 도움을 주기 위한 것입니다[자세한 내용은 CML 모델링 섹션 참조].
  • 피처 변환의 이점은 무엇입니까?
  • 트리 앙상블 방법을 SVM으로 대체하면 어떻게 됩니까?

접근 방법:

  • 전략 성과와 관련된 지표로서 모델 정밀도와 양성으로 분류된 일수에 초점을 맞춥니다.
  • 동일한 데이터 표본과 아키텍처 설정을 사용하고 피처 변환 단계만 다르게 하여 비교를 통제합니다.

정밀도 초과 성과:

  • CML 전략이 예측한 표본에서 실제 레이블 사례의 비율에서 전체 데이터 표본에서의 비율을 뺀 값입니다.
  • 대다수 자산에서 실제 사례 비율이 더 높으며, 결과는 검증 데이터와 홀드아웃 데이터 사이에 일관됩니다.

일관성 점검

  • 본 연구는 2021년 데이터를 포함하고 하이퍼파라미터 집합을 고정하는 등 [CML 모델링 섹션]의 분석과 약간의 차이가 있습니다.
  • 그러나 이러한 약간의 차이를 고려하면 예측 결과 사이에 대체로 좋은 일관성이 확인되었습니다.

예측 성과

  • 트리 기반 피처 변환(FT)을 사용한 경우와 FT를 사용하지 않은 경우의 예측 결과는 비슷했습니다. 예를 들어 분산이 더 작은 대신 평균이 약간 더 큽니다.
  • FT를 전혀 사용하지 않을 때 관찰되는 더 큰 분산은 양성으로 분류되는 일수가 더 적은 경향과 관련됩니다(다음 슬라이드 참조).

피처 변환의 영향

  • 피처 변환(FT)은 트리 앙상블 모델에 기반합니다.
    • 피처 수를 (트리 수에 비례하여) 최소 한 자릿수 이상 줄입니다.
    • 전체 CML 전략의 예측 정밀도/성과는 피처 변환을 전혀 사용하지 않은 경우와 비슷합니다.
    • 그러나 모델이 양성으로 분류하는 일수의 비율이 일관되게 더 큽니다.
  • 예측 우위가 작으므로 의미 있는 전략 성과를 위해서는 많은 “거래일”이 필요하며, 이에 따라 양성 일수 비율이 더 크다는 점은 FT를 사용하지 않는 것보다 트리 기반 FT를 사용하는 쪽에 유리합니다.
  • SVM 모델 기반 피처 변환은 다음과 같습니다.
    • 일반적으로 서포트 벡터(SV)의 수가 사용한 데이터 포인트 수의 절반을 약간 넘습니다.
    • SV와 커널 및 쌍대 계수로 구성한 피처 수가 원래 피처 수를 초과하는 경우가 많았습니다.
    • SVM 버전을 사용했을 때 트리 기반 FT 대비 개선된 영역은 관찰되지 않았습니다.

결론

  • 현재 앙상블 트리 모델에 기반한 CML 전략의 피처 변환 사용이 미치는 영향을 분석했습니다.
  • 하류(downstream) 전략 요소로 인한 차이를 피하기 위해 모델 예측 수준에서 연구를 수행했으나, 최종 전략 성과와 가장 관련이 깊을 것으로 예상되는 지표에 초점을 맞췄습니다.
  • 앙상블 트리 모델에 기반한 현재의 FT는 피처 수를 크게 줄이며, FT를 전혀 사용하지 않은 경우와 비슷한 모델 성과를 보였으나 양성으로 분류되는 일수는 더 많았습니다.
  • 예측 우위가 작아 의미 있는 전략 성과를 위해 많은 “거래일”이 필요하다는 점을 고려하면, 이는 장점으로 간주됩니다.
  • 비교에는 SVM 모델 기반 FT도 포함했으나, 트리 기반 FT와 비교해 개선된 영역은 관찰되지 않았습니다.
귀사의 관점 공유하기