Jak można przetestować zmianę strategii
Co oznacza zmiana strategii, zanim ją przetestujesz
Zmiana strategii (strategy hopping) to praktyka przełączania się między strategiami handlowymi w czasie (na przykład „Strategia A, gdy wystąpi X, w przeciwnym razie Strategia B”). Kluczową ideą do przetestowania nie jest to, czy przełączanie ma miejsce, ale czy przełączanie poprawia jakość decyzji w porównaniu ze stabilną alternatywą.
Ponieważ zmiana strategii może być napędzana przez wiele czynników, użyteczny test zaczyna się od rozdzielenia:
- Stabilnej mechaniki: jak decydujesz, która strategia jest aktywna (reguła przełączania).
- Zmiennych warunków rynkowych/dostawcy: reżimy zmienności, spready, płynność, jakość wykonania i inne zmieniające się czynniki.
Kiedy testujesz zmianę strategii, starasz się wyizolować efekt reguły przełączania, utrzymując spójną metodę oceny. Historyczne wyniki mogą być mylące, jeśli odzwierciedlają szczęśliwe okresy, zmieniające się koszty lub wyciek danych (target leakage).
Konkretny projekt testu: hipoteza, baza odniesienia i podział danych
1) Sformułuj testowalną hipotezę
Zamień niejasną ideę „zmiana strategii może działać” na coś mierzalnego. Możesz na przykład postawić hipotezę, że:
- W określonych warunkach reguła przełączania poprawia wynik netto po kosztach w porównaniu z utrzymaniem jednej strategii bazowej.
Aby uniknąć niejednoznacznej oceny, z góry zdecyduj, która metryka jest dla Ciebie istotna (na przykład średni zwrot netto na transakcję, głębokość drawdownu lub statystyka skorygowana o ryzyko). Zdefiniuj również horyzont czasowy pomiaru, taki jak „na miesiąc” lub „na tydzień”.
2) Wybierz bazę odniesienia, która zapewni uczciwe porównanie
Baza odniesienia powinna reprezentować alternatywę bez przełączania, ocenianą przy użyciu tych samych danych, założeń dotyczących wykonania i obliczania metryk.
Typowe typy baz odniesienia (wybierz jedną):
- Stała strategia: zawsze używaj jednej definicji strategii.
- Statyczna alokacja: utrzymuj stałe zasady ekspozycji, jeśli Twoje oryginalne strategie zmieniają ekspozycję.
- Kontrola losowego przełączania: przełączaj strategie, używając tego samego harmonogramu częstotliwości, ale bez logiki decyzyjnej.
Baza odniesienia ma znaczenie, ponieważ zmiana strategii często korzysta z nieświadomego wybierania przez badaczy okresów, w których przełączanie wygląda dobrze. Uczciwa baza odniesienia pomaga to wykryć.
3) Zdefiniuj podział danych i miejsce, w którym reguła decyzyjna może się uczyć
Praktyczne podejście polega na podziale danych na próbę uczącą (in-sample) (do wyboru parametrów i walidacji reguły przełączania) oraz próbę testową (out-of-sample) (do szacowania wyników bez dalszego dostrajania).
Na przykład:
- Użyj okna treningowego, aby zdecydować o strukturze logiki przełączania lub progach.
- Użyj okna walidacyjnego, aby potwierdzić wybory (opcjonalne, ale pomocne).
- Użyj jednego lub więcej okien testowych, aby zmierzyć wyniki poza próbą.
Jeśli zmienisz regułę przełączania po zobaczeniu wyników testu, test nie jest już niezależny. Najbezpieczniejsze podejście jest następujące: gdy już zablokujesz regułę, traktuj zbiór testowy jako nietknięty.
Koszty i założenia: część „netto” testu
4) Uwzględnij jawnie koszty transakcyjne i wykonania
Zmiana strategii zazwyczaj zwiększa aktywność (więcej wejść/wyjść, ponowna optymalizacja lub częstsze zmiany reżimu). Nawet jeśli surowa logika strategii wygląda podobnie, wyniki netto mogą się drastycznie zmienić po uwzględnieniu kosztów.
W planie testu określ założenia dla każdego obliczenia, które możesz. Na przykład:
- Model prowizji za transakcję.
- Średni spread lub efektywny koszt na wejście/wyjście.
- Założenia dotyczące poślizgu (slippage) odzwierciedlające najgorszy przypadek vs typową jakość wykonania.
Nie potrzebujesz danych rynkowych w czasie rzeczywistym, aby zaprojektować strukturę testu, ale musisz traktować koszty jako zmienną. Typowym testem odporności jest analiza wrażliwości: uruchom tę samą ocenę z wyższymi i niższymi założeniami kosztowymi, aby sprawdzić, czy wnioski się odwracają.
5) Stosuj spójne zasady wykonania dla wszystkich strategii
Aby porównać przełączanie z bazą odniesienia, wykonanie powinno być modelowane spójnie:
- Ta sama konwencja czasu składania zleceń (np. decyzje na zamknięciu świecy vs w trakcie świecy).
- Ta sama logika i limity wielkości pozycji.
- Te same założenia dotyczące obsługi stopów i limitów.
Jeśli wykonanie różni się między strategiami lub między systemem przełączającym a bazą odniesienia, różnice w wynikach mogą wynikać z mechaniki, a nie z idei przełączania.
Dowody i przykłady: na co zwracać uwagę w wynikach
6) Oddziel „działa raz” od „działa w różnych warunkach”
Kluczowym ryzykiem związanym ze zmianą strategii jest to, że może ona wydawać się skuteczna w określonych reżimach historycznych. Rozwiązaniem jest testowanie w wielu warunkach i okresach.
Zaprojektuj swoją ocenę tak, aby obejmowała:
- Wiele okien testowych poza próbą (różne lata lub miesiące).
- Podziały przypominające reżimy (na przykład okresy wysokiej vs niskiej zmienności), zdefiniowane bez zaglądania w przyszłe wyniki.
Twoim celem jest obserwacja, czy wyniki netto i charakterystyka ryzyka pozostają wiarygodne w różnych podziałach, a nie są skoncentrowane w wąskim wycinku historii.
7) Dodaj testy odporności, które obciążają regułę decyzyjną
Co najmniej jedna z tych kontroli powinna być częścią planu weryfikacji:
- Wrażliwość na częstotliwość przełączania: przetestuj, co się stanie, jeśli przełączanie będzie wymuszone rzadziej lub częściej.
- Stabilność parametrów: lekko zaburz progi i zmierz, czy wyniki gwałtownie się pogarszają.
- Eksperyment kontrolny: zrandomizuj sygnał przełączania, zachowując właściwości rozkładu, takie jak częstotliwość przełączania.
Jeśli przełączanie „wygrywa” tylko wtedy, gdy parametry są ściśle dostrojone do konkretnej próby, jest to sygnał ostrzegawczy.
Ograniczenia i sposoby niepowodzenia do udokumentowania
8) Istotne ograniczenia
Nawet dobrze zaprojektowany test historyczny nie może udowodnić przyszłych wyników. Zależności zaobserwowane w jednym okresie mogą zawieść później.
Istotne sposoby niepowodzenia dla zmiany strategii obejmują:
- Przeuczenie reguły przełączania: logika uczy się szumu, który nie uogólnia się.
- Wyciek danych: pośrednie wykorzystanie informacji z przyszłości (na przykład użycie wyników do podjęcia decyzji, która strategia powinna być aktywna).
- Niedoszacowanie kosztów: ignorowanie spreadów, prowizji lub poślizgu sprawia, że przełączanie wygląda lepiej, niż może być w rzeczywistości netto.
- Niedopasowanie wykonania: różne założenia dotyczące obsługi zleceń między strategiami mogą zafałszować wyniki.
- Niestacjonarność: związek między sygnałami a wynikami zmienia się w miarę adaptacji rynków.
9) Interpretuj niepewność, a nie pewność
Raportując wyniki testu, uwzględnij, jak wrażliwe są wyniki na założenia i podziały. Jeśli wyniki załamują się przy nieco wyższych kosztach lub w innych oknach testowych, dowody są słabe.
Jest to szczególnie ważne w przypadku zmiany strategii, ponieważ sama reguła przełączania dodaje złożoności. Większa złożoność zwiększa prawdopodobieństwo, że pozorna przewaga jest statystycznym przypadkiem.
Weryfikacja i kolejne pytanie
10) Co możesz niezależnie zweryfikować
Aby niezależnie zweryfikować istotne fakty, możesz sprawdzić, czy projekt testu jest wewnętrznie spójny:
- Reguła przełączania została zablokowana przed oceną poza próbą.
- Baza odniesienia używa tego samego modelu wykonania i kosztów.
- Wynik netto jest obliczany po uwzględnieniu jawnych kosztów.
- Wyniki są pokazane w wielu oknach poza próbą i w analizach wrażliwości.
Kolejnym mocnym pytaniem, które warto zadać, jest to, czy reguła przełączania znacząco różni się od bazy odniesienia. Jeśli przełączanie nie zmienia w istotny sposób zachowania (na przykład prawie zawsze wybiera tę samą strategię), test powinien to odzwierciedlać.