Apa arti divergensi dalam Regresi Linear?

Jawaban langsung

Divergensi dalam Regresi Linear berarti bahwa hubungan yang dijelaskan oleh garis regresi yang dipasang mulai menyimpang dari titik-titik yang Anda amati. Secara sederhana, garis tersebut tidak lagi mengikuti pola data yang menjadi dasar pemasangannya.

Dalam praktiknya, “divergensi” bukanlah fitur bawaan tunggal dari regresi linear. Ini adalah cara untuk menggambarkan apa yang terjadi ketika garis yang diharapkan dari model (berdasarkan perkiraan kemiringan dan intersepnya) berhenti mewakili observasi baru atau yang lebih baru.

Mekanisme dan definisi

Regresi linear standar memasang garis lurus dalam bentuk y = a + b·x, menggunakan data di mana x adalah variabel independen dan y adalah variabel dependen. Garis yang dipasang mewakili hubungan rata-rata model berdasarkan asumsinya.

“Divergensi” biasanya muncul sebagai satu atau lebih dari hal berikut:

• Residual meningkat: residual adalah jarak vertikal antara titik yang diamati dan garis yang dipasang. Jika jarak tersebut secara sistematis bertambah, garis tersebut menyimpang dari data.
• Kemiringan atau intersep yang berubah: jika hubungan yang mendasarinya berubah seiring waktu, satu garis lurus tetap tidak dapat cocok dengan baik untuk bagian awal maupun akhir.
• Struktur non-linear: bahkan jika data awal terlihat kira-kira linear, data selanjutnya mungkin mengikuti kurva atau rezim tertentu, sehingga garis lurus akan menyimpang.

Untuk menafsirkan divergensi dengan benar, penting untuk memisahkan mekanika (bagaimana garis dipasang dan bagaimana perilaku residual) dari kondisi variabel (bagaimana data nyata dapat berubah).

Bukti atau contoh (dengan asumsi)

Asumsikan Anda memasang garis menggunakan pasangan historis (x, y). Misalkan observasi awal terletak dekat dengan garis, sehingga residualnya kecil. Kemudian, titik-titik bergerak secara konsisten di atas garis sementara x terus meningkat. Jika Anda memeriksa ulang residual untuk segmen selanjutnya, magnitudo rata-rata mereka meningkat.

Pola itu dapat terjadi karena beberapa alasan yang tidak saling eksklusif:

1. Asumsi model tidak lagi berlaku (misalnya, hubungan antara x dan y berubah).
2. Data mengandung pergeseran struktural (sebuah “rezim” baru atau hubungan yang berbeda) sehingga satu garis global tidak lagi tepat.
3. Noise mendominasi: bahkan dengan asumsi yang stabil, variasi acak dapat menghasilkan periode di mana garis terlihat salah.

Keterbatasan material: regresi akan selalu memasang beberapa garis, jadi divergensi paling bermakna ketika Anda mendefinisikannya sebelumnya (misalnya, “residual melebihi ambang batas yang dipilih” atau “kesalahan di luar sampel meningkat”), bukan setelah Anda sudah tahu apa yang terjadi.

Keterbatasan dan risiko

Dua risiko umum yang penting ketika orang berbicara tentang divergensi:

1. Batas konfirmasi Jika Anda menilai divergensi hanya pada data yang sama yang digunakan untuk memasang model, Anda mungkin melebih-lebihkan seberapa baik garis “menjelaskan” pola tersebut. Evaluasi yang tepat memerlukan pemeriksaan di luar sampel: pasang pada satu set, lalu uji pada data yang tidak terlihat, menggunakan definisi divergensi yang sama.

2. Bias melihat ke belakang Setelah hasil diketahui, mudah untuk menafsirkan ulang setiap penyimpangan awal dari garis yang dipasang sebagai “divergensi yang berarti.” Hal ini dapat menyebabkan kesimpulan yang berlebihan, seperti memperlakukan divergensi sebagai bukti arah atau prediktabilitas, bahkan ketika itu hanya mencerminkan bahwa model linear sederhana adalah ringkasan yang tidak sempurna.

Keterbatasan praktis lainnya termasuk:

• Perubahan skala dan biaya dalam konteks data dunia nyata dapat mengubah hubungan, sehingga spesifikasi regresi yang sama dapat berperilaku berbeda.
• Waktu eksekusi dan waktu observasi dapat menciptakan ketidakcocokan antara apa yang Anda modelkan dan apa yang kemudian Anda bandingkan.
• Aturan khusus yurisdiksi dan akses data dapat memengaruhi observasi apa yang dapat Anda verifikasi; divergensi dapat muncul hanya karena kumpulan data yang dibandingkan berbeda.

Poin kunci: hubungan historis tidak menetapkan hasil masa depan. Divergensi menggambarkan ketidakcocokan pada suatu titik waktu; itu tidak secara otomatis menyiratkan hasil masa depan yang andal.

Verifikasi atau pertanyaan berikutnya

Untuk memverifikasi secara independen apakah “divergensi” itu nyata dan bukan kebetulan, buat definisinya eksplisit:

• Definisikan divergensi menggunakan residual atau pertumbuhan kesalahan, dengan ambang batas dan pembagian waktu.
• Pasang ulang model pada jendela awal dan evaluasi pada jendela berikutnya menggunakan metrik yang sama.
• Periksa apakah divergensi bertahan di beberapa segmen waktu independen.

Pertanyaan berikutnya untuk dieksplorasi: spesifikasi regresi mana (panjang jendela, penyertaan variabel, atau pilihan transformasi) yang harus dievaluasi ketika hubungan dapat berubah? Untuk regresi linear, ini sering menentukan seberapa cepat divergensi muncul ketika kondisi berubah.