Jak obliczany jest R kwadrat (wzór, dane wejściowe i ograniczenia)
Bezpośrednia odpowiedź: czym jest R kwadrat?
R kwadrat (często zapisywany jako R²) to liczba opisująca, jaka część zmienności obserwowanego celu (zmiennej zależnej) jest wyjaśniana przez zestaw dopasowanych prognoz (wynik modelu). W swojej najczęstszej formie R² jest obliczany z dwóch wielkości:
- Całkowita zmienność w obserwowanych danych
- Zmienność resztowa (niewyjaśniona) po zastosowaniu dopasowanych prognoz
Interpretacja w prostych słowach: jeśli zmienność resztowa jest mała w porównaniu z całkowitą zmiennością, R² jest wyższy; jeśli zmienność resztowa jest duża, R² jest niższy.
Mechanizm: wzór i wszystkie wymagane dane wejściowe
1) Zdefiniuj dane
Aby obliczyć R², potrzebujesz zbioru wartości obserwowanych oraz odpowiadających im wartości dopasowanych (przewidywanych).
- Wartości obserwowane: (y_1, y_2, \dots, y_n)
- Wartości dopasowane (przewidywane): (\hat{y}_1, \hat{y}_2, \dots, \hat{y}_n)
- Średnia z próby wartości obserwowanych: (\bar{y} = \frac{1}{n}\sum_{i=1}^{n} y_i)
Gdzie (n) to liczba punktów danych, które oceniasz.
2) Oblicz sumy kwadratów
R² wykorzystuje sumy kwadratów oparte na różnicach od średnich oraz różnicach od dopasowanych prognoz.
-
Całkowita suma kwadratów (zmienność wokół średniej): [ \mathrm{SST} = \sum_{i=1}^{n} (y_i - \bar{y})^2 ]
-
Resztowa suma kwadratów (zmienność pozostała po dopasowaniu): [ \mathrm{SSE} = \sum_{i=1}^{n} (y_i - \hat{y}_i)^2 ]
3) Oblicz R kwadrat
W najczęściej stosowanej definicji: [ R^2 = 1 - \frac{\mathrm{SSE}}{\mathrm{SST}} ]
Wymaga to, aby (\mathrm{SST} > 0). Jeśli wszystkie obserwowane (y_i) są identyczne, wtedy (\mathrm{SST}=0) i R² nie jest w tej formie sensownie zdefiniowany.
4) Kluczowy wybór praktyczny: na jakich danych obliczane są (\hat{y})?
Sam wzór nie określa, czy (\hat{y}) pochodzi z:
- tych samych danych, na których dopasowano model (w próbie), czy
- oddzielnych danych, które nie były używane podczas dopasowywania (poza próbą)
Używanie dopasowanych wartości w próbie często zawyża wydajność elastycznych modeli. Używanie prognoz poza próbą daje zazwyczaj bardziej realistyczny obraz tego, jak dobrze zależność się uogólnia, ale może obniżyć R² nawet wtedy, gdy model jest kierunkowo użyteczny.
Dowód lub przykład: konkretne obliczenie (z jawnymi założeniami)
Załóżmy, że masz (n=3) obserwowane wartości (y) oraz model, który generuje dopasowane wartości (\hat{y}) dla tych samych trzech punktów.
Niech:
- (y = [2,\ 4,\ 6])
- (\hat{y} = [2,\ 5,\ 5])
Krok 1: oblicz średnią [ \bar{y} = (2+4+6)/3 = 4 ]
Krok 2: oblicz (\mathrm{SST}) [ \mathrm{SST} = (2-4)^2 + (4-4)^2 + (6-4)^2 = 4 + 0 + 4 = 8 ]
Krok 3: oblicz (\mathrm{SSE}) [ \mathrm{SSE} = (2-2)^2 + (4-5)^2 + (6-5)^2 = 0 + 1 + 1 = 2 ]
Krok 4: oblicz R² [ R^2 = 1 - 2/8 = 1 - 0.25 = 0.75 ]
Zgodnie z tym obliczeniem, 0.75 wskazuje, że zmienność resztowa stanowi jedną czwartą całkowitej zmienności (dla tego układu oceny).
Ograniczenia i tryby awarii: co R kwadrat może pomylić
R² jest szeroko stosowany, ale nie jest gwarancją użyteczności. Kilka istotnych ograniczeń może powodować, że będzie mylący.
1) Przeuczenie przy ocenie w próbie
Jeśli model jest elastyczny i obliczasz R² przy użyciu dopasowanych wartości na tym samym zbiorze danych, z którego się uczył, błędy resztowe mogą być sztucznie małe. Może to dać wysoki R² nawet wtedy, gdy model nie oddaje stabilnej zależności.
2) Niedopasowanie nieliniowości
R² mierzy, jak dobrze przewidywane wartości pasują do obserwowanych wartości poprzez reszty. Nie gwarantuje, że podstawowa zależność ma określoną strukturę (na przykład liniowość), chyba że Twoje podejście do modelowania wymusza tę strukturę.
Model może wykazywać umiarkowany lub wysoki R², a jednocześnie być nieodpowiedni do ekstrapolacji poza zakres danych, ponieważ R² ma charakter opisowy dla zbioru oceny, a nie uniwersalnego prawa.
3) Efekty skali i wstępnego przetwarzania
Ponieważ SST i SSE zależą od skali (y), kroki wstępnego przetwarzania (takie jak różnicowanie, normalizacja lub transformacje) mogą zmienić R². Dwóch analityków pracujących z różnymi transformacjami może otrzymać różne wartości R², nawet jeśli „jakość” dopasowania jest porównywalna.
4) R² może być niezdefiniowany lub nieintuicyjny
- Jeśli (\mathrm{SST}=0), wzór się załamuje.
- W zależności od sposobu generowania prognoz i użycia alternatywnych definicji (takich jak warianty skorygowane), wartość może być mniej intuicyjna niż „procent wyjaśniony”.
5) Zależność a przyczynowość
R² określa ilościowo, jak ściśle prognozy śledzą obserwacje. Nie wyjaśnia, dlaczego zależność istnieje. Nawet przy wysokim R² związek może odzwierciedlać wspólne czynniki, artefakty danych lub przypadkowe wzorce.
Weryfikacja i kolejne pytanie: jak niezależnie sprawdzić raportowany R kwadrat
Jeśli widzisz raportowany R², możesz zweryfikować obliczenia, sprawdzając następujące fakty, bez polegania na twierdzeniach o przyszłej wydajności:
- Potwierdź rozmiar zbioru oceny (n).
- Uzyskaj obserwowane wartości (y_i).
- Zidentyfikuj dopasowane/przewidywane wartości (\hat{y}_i) użyte do obliczenia błędów resztowych.
- Przelicz (\bar{y}), SST, SSE, a następnie (R^2 = 1 - \mathrm{SSE}/\mathrm{SST}).
Jeśli dostawca lub kalkulator nie podaje, które (\hat{y}) są używane (w próbie vs poza próbą) i jakie zastosowano wstępne przetwarzanie, raportowany R² jest nadal matematycznie zdefiniowany, ale porównanie między różnymi układami staje się niepewne.
Użytecznym pytaniem uzupełniającym jest to, jak R² różni się przy obliczaniu dla powiązanych pojęć (na przykład przy użyciu różnych podziałów oceny lub form modelowania), ponieważ te wybory zmieniają to, co R² faktycznie mierzy.