Częste błędy z danymi historycznymi

Czym są dane historyczne (i dlaczego często są źle rozumiane)

Dane historyczne to zapis przeszłych obserwacji używany do opisania, jak ceny lub stopy zwrotu zachowywały się w czasie. W praktyce „ta sama” historia może oznaczać różne rzeczy: surowe ticki, zagregowane świece (na przykład co minutę), skorygowane serie (na przykład w związku z działaniami korporacyjnymi na innych rynkach) lub zbiory danych dostawców, które już przeszły proces przetwarzania. Częstym błędem jest traktowanie danych historycznych jako bezpośredniego, obiektywnego odzwierciedlenia „tego, co naprawdę się wydarzyło”, zamiast przetworzonego wejścia z określonymi zasadami konstrukcji.

Jak powstają błędy w procesach pracy z danymi historycznymi

1) Stosowanie niespójnych definicji zbioru danych

Częstym błędem jest mieszanie zbiorów danych zbudowanych według różnych zasad—takich jak różna częstotliwość próbkowania, różne strefy czasowe lub różne metody obsługi brakujących punktów. Jeśli później porównujesz wyniki między badaniami bez potwierdzenia, że bazowa siatka czasowa i czyszczenie danych są spójne, możesz przypisać różnice wynikom strategii, a nie konstrukcji zbioru danych.

2) Niewyrażone założenia w obliczeniach

Każdy przykład obliczający stopy zwrotu, maksymalne obsunięcia kapitału lub wskaźniki wydajności zależy od założeń: jak tworzone są świece, jak „czas wejścia” i „czas wyjścia” mapują się na obserwowane ceny oraz czy modelowane są spready, prowizje lub poślizgi. Neutralną kontrolą jest jawne wypisanie każdego założenia przed interpretacją wyników. Jeśli ktoś nie może odtworzyć obliczeń na podstawie tych założeń, wniosek nie jest weryfikowalny.

3) Błąd wyprzedzający i wyciek danych

Innym istotnym trybem awarii jest wykorzystanie informacji, które nie byłyby dostępne w momencie podejmowania decyzji. Może się to zdarzyć, gdy cechy są obliczane z wykorzystaniem przyszłych punktów, gdy zbiór danych jest przygotowywany od początku do końca przed podziałem na okresy treningowe i testowe lub gdy transformacje przypadkowo obejmują przyszłe dane. Nawet bez żadnych porad handlowych, krokiem weryfikacji jest upewnienie się, że każda transformacja wykorzystuje tylko dane dostępne do punktu prognozy lub decyzji.

4) Przeuczenie do przeszłego szumu

Dane historyczne zawierają losowość i efekty mikrostruktury rynku. Model lub reguła może wydawać się skuteczny, ponieważ dopasowuje się do osobliwości przeszłości, a nie do stabilnych zależności. Konsekwencją jest słaba generalizacja: wyniki mogą nie utrzymać się, gdy zmienią się warunki (płynność, reżim zmienności, tarcia wykonawcze). Neutralną kontrolą jest ścisłe oddzielenie okresów i unikanie wielokrotnego „dostrajania”, aż przeszłe wyniki będą wyglądać dobrze.

Dowody, przykład i neutralne kontrole, które możesz zastosować

Rozważ proste obliczenie stopy zwrotu na podstawie danych świecowych. Musisz określić: co reprezentuje znacznik czasu świecy, którą cenę w obrębie świecy traktujesz jako możliwą do transakcji (otwarcie, zamknięcie, maksimum, minimum) oraz czy uwzględnione są koszty transakcyjne. Jeśli ponownie uruchomisz to samo obliczenie z inną konwencją wyrównania świec lub bez kosztów, wskaźniki wydajności mogą się znacząco zmienić.

Do weryfikacji wiarygodności użyj trzech kontroli:

• Kontrola odtwarzalności: czy możesz odtworzyć dokładne transformacje zbioru danych i obliczenia wskaźników na podstawie udokumentowanych zasad?
• Kontrola podziału czasu: czy wyniki pozostają w dużej mierze podobne, gdy przejdziesz do innego, nienakładającego się okresu?
• Test warunków skrajnych założeń: czy wniosek zależy od jednego kruchego wyboru (na przykład konkretnego wyrównania, zasady obsługi brakujących danych lub modelu kosztów)?

Ograniczenia i ryzyka: czego dane historyczne nie mogą udowodnić

Historyczne zależności nie przesądzają o przyszłych wynikach. Nawet jeśli wynik jest matematycznie spójny z przeszłym zbiorem danych, może zawieść w nowych warunkach rynkowych, przy innym wykonaniu lub zmienionych zasadach przetwarzania danych. Ograniczenia obejmują również brakujące lub rzadkie obserwacje, efekty przetrwania w niektórych kontekstach oraz różnice specyficzne dla dostawców, które nie są oczywiste na powierzchownym wykresie.

Dobrym „jasnym i gotowym do wyjaśnienia” wnioskiem jest: dane historyczne są przydatne do pomiaru i uczenia się, ale tylko wtedy, gdy ich zasady konstrukcji, założenia i ograniczenia są jawnie określone i niezależnie weryfikowalne.