Cosa significa divergenza nella regressione lineare?

Risposta diretta

La divergenza nella regressione lineare indica che la relazione descritta dalla linea di regressione stimata inizia a discostarsi dai punti osservati. In termini semplici, la linea non segue più il modello dei dati a cui era stata adattata.

Nella pratica, la “divergenza” non è una caratteristica integrata della regressione lineare. È un modo per descrivere ciò che accade quando la linea prevista dal modello (basata sulla pendenza e sull’intercetta stimata) smette di rappresentare correttamente le nuove osservazioni o quelle successive.

Meccanismo e definizione

Una regressione lineare standard adatta una linea retta della forma y = a + b·x, utilizzando dati in cui x è la variabile indipendente e y è la variabile dipendente. La linea adattata rappresenta la relazione media stimata dal modello sotto le sue assunzioni.

La “divergenza” si manifesta solitamente in uno o più dei seguenti modi:

• Aumento dei residui: i residui sono le distanze verticali tra i punti osservati e la linea adattata. Se queste distanze crescono sistematicamente, la linea si sta allontanando dai dati.
• Cambiamento di pendenza o intercetta: se la relazione sottostante cambia nel tempo, una singola linea fissa non può rappresentare bene né la parte iniziale né quella successiva.
• Struttura non lineare: anche se i dati iniziali sembrano approssimativamente lineari, i dati successivi potrebbero seguire un andamento curvilineo o regime diverso, facendo divergere la linea retta.

Per interpretare correttamente la divergenza, è utile distinguere tra meccanica (come viene adattata la linea e come si comportano i residui) e condizioni variabili (come i dati reali possono cambiare).

Evidenza o esempio (con assunzioni)

Supponiamo di adattare una linea utilizzando coppie storiche (x, y). Immaginiamo che le osservazioni iniziali siano vicine alla linea, quindi i residui siano piccoli. Successivamente, i punti si spostano costantemente sopra la linea mentre x continua a crescere. Se si ricalcolano i residui per il segmento successivo, la loro ampiezza media aumenta.

Questo andamento può verificarsi per diversi motivi non mutuamente esclusivi:

1. Le assunzioni del modello non valgono più (ad esempio, la relazione tra x e y cambia).
2. I dati presentano cambiamenti strutturali (un nuovo “regime” o una relazione diversa), quindi una singola linea globale non è più appropriata.
3. Il rumore domina: anche con assunzioni stabili, la variazione casuale può produrre periodi in cui la linea sembra errata.

Limite materiale: la regressione adatterà sempre qualche linea, quindi la divergenza è significativa solo se definita a priori (ad esempio, “i residui superano una soglia scelta” o “l’errore fuori campione aumenta”), non dopo aver già conosciuto l’esito.

Limitazioni e rischi

Due rischi comuni sono rilevanti quando si parla di divergenza:

1. Bias di conferma Se si valuta la divergenza solo sui dati utilizzati per adattare il modello, si può sopravvalutare quanto bene la linea abbia “spiegato” il modello. Una valutazione corretta richiede un controllo fuori campione: adattare su un insieme, poi testare su dati non visti, usando la stessa definizione di divergenza.

2. Bias di retrospettiva (hindsight bias) Una volta noti gli esiti, è facile reinterpretare ogni precedente deviazione dalla linea stimata come “divergenza significativa”. Questo può portare a conclusioni esagerate, come considerare la divergenza prova di direzione o prevedibilità, anche quando riflette semplicemente che un modello lineare semplice è un riassunto imperfetto.

Altri limiti pratici includono:

• Cambiamenti di scala e costi nei contesti dati reali che possono alterare le relazioni, facendo comportare diversamente la stessa specificazione di regressione.
• Tempistiche di esecuzione e osservazione che possono creare discrepanze tra ciò che è stato modellato e ciò che si confronta in seguito.
• Normative specifiche per giurisdizione e accesso ai dati che possono influenzare quali osservazioni si possono verificare; la divergenza può apparire semplicemente perché i dataset confrontati differiscono.

Un punto chiave: le relazioni storiche non garantiscono risultati futuri. La divergenza descrive uno scostamento in un determinato momento; non implica automaticamente un esito futuro affidabile.

Verifica o prossima domanda

Per verificare in modo indipendente se la “divergenza” è reale e non una coincidenza, mantenere esplicita la definizione:

• Definire la divergenza usando i residui o l’aumento dell’errore, con una soglia e una suddivisione temporale.
• Ristimare il modello su un intervallo precedente e valutarlo su un intervallo successivo usando la stessa metrica.
• Verificare se la divergenza persiste in più segmenti temporali indipendenti.

Prossima domanda da esplorare: quale specificazione di regressione (lunghezza della finestra, inclusione di variabili o scelte di trasformazione) dovrebbe essere valutata quando la relazione potrebbe cambiare? Per la regressione lineare, questo spesso determina quanto rapidamente appare la divergenza quando le condizioni cambiano.