O que são dados históricos (e por que são frequentemente mal compreendidos)
Dados históricos são um registro de observações passadas usadas para descrever como preços ou retornos se comportaram ao longo do tempo. Na prática, a “mesma” história pode significar coisas diferentes: ticks brutos, barras agregadas (por exemplo, por minuto), séries ajustadas (por exemplo, ações corporativas em outros mercados) ou conjuntos de dados específicos de provedores que já aplicaram etapas de processamento. Um erro comum é tratar dados históricos como um espelho direto e objetivo do “que realmente aconteceu”, em vez de uma entrada processada com regras de construção específicas.
Como os erros acontecem em fluxos de trabalho com dados históricos
1) Usando definições inconsistentes do conjunto de dados
Um erro frequente é misturar conjuntos de dados construídos com regras diferentes—como frequência de amostragem diferente, fusos horários diferentes ou métodos diferentes para lidar com pontos ausentes. Se você posteriormente comparar resultados entre estudos sem confirmar que a grade de tempo subjacente e a limpeza de dados estão alinhadas, pode atribuir diferenças ao desempenho da estratégia em vez da construção do conjunto de dados.
2) Premissas não declaradas em cálculos
Qualquer exemplo que calcule retornos, rebaixamentos ou métricas de desempenho depende de premissas: como as barras são formadas, como os tempos de “entrada” e “saída” mapeiam para preços observados e se spreads, comissões ou derrapagem são modelados. Uma verificação neutra é listar cada premissa explicitamente antes de interpretar os resultados. Se alguém não puder reproduzir o cálculo a partir dessas premissas, a conclusão não é verificável.
3) Viés de look-ahead e vazamento de dados
Outro modo de falha material é usar informações que não estariam disponíveis no momento da decisão. Isso pode acontecer quando características são calculadas usando pontos futuros, quando o conjunto de dados é preparado de ponta a ponta antes de dividir em períodos de treinamento e teste, ou quando transformações acidentalmente incluem dados futuros. Mesmo sem qualquer conselho de negociação, a etapa de verificação é garantir que qualquer transformação use apenas dados disponíveis até o ponto de previsão ou decisão.
4) Sobreajuste ao ruído passado
Dados históricos contêm aleatoriedade e efeitos de microestrutura de mercado. Um modelo ou regra pode parecer bem-sucedido porque corresponde a peculiaridades do passado em vez de relações estáveis. A consequência é uma generalização ruim: os resultados podem não se manter quando as condições mudam (liquidez, regime de volatilidade, fricções de execução). Uma verificação neutra é usar uma separação estrita entre períodos e evitar “ajustar” repetidamente até que os resultados passados pareçam bons.
Evidência, exemplo e verificações neutras que você pode aplicar
Considere um cálculo simples de retorno a partir de dados de barras. Você deve declarar: o que o timestamp da barra representa, qual preço dentro da barra você trata como negociável (abertura, fechamento, máxima, mínima) e se os custos de transação estão incluídos. Se você executar novamente o mesmo cálculo com uma convenção diferente de alinhamento de barras ou sem custos, as métricas de desempenho podem mudar significativamente.
Para verificação de confiabilidade, use três verificações:
- Verificação de reprodutibilidade: você consegue recriar as transformações exatas do conjunto de dados e os cálculos de métricas a partir das regras documentadas?
- Verificação de divisão de tempo: os resultados permanecem amplamente semelhantes quando você se move para um período diferente e não sobreposto?
- Teste de estresse de premissas: a conclusão depende de uma escolha frágil (por exemplo, um alinhamento específico, regra de dados ausentes ou modelo de custo)?
Limitações e riscos: o que dados históricos não podem provar
Relações históricas não estabelecem resultados futuros. Mesmo que um resultado seja matematicamente consistente com o conjunto de dados passado, ele pode falhar sob novas condições de mercado, execução diferente ou regras alteradas de processamento de dados. As limitações também incluem observações ausentes ou esparsas, efeitos de sobrevivência em alguns contextos e diferenças específicas do provedor que não são óbvias a partir de um gráfico superficial.
Uma boa conclusão “clara e pronta para explicar” é: dados históricos são úteis para medição e aprendizado, mas somente quando suas regras de construção, premissas e limitações são explicitamente declaradas e independentemente verificáveis.