Apa Itu Contoh Kerja Regresi Linear?

Definisi: apa itu regresi linear

Regresi linear adalah metode statistik yang memodelkan hubungan antara variabel dependen (y) dan satu variabel independen (x) menggunakan persamaan garis lurus:

[ \hat{y} = a + b x ]

• (\hat{y}) adalah nilai prediksi dari (y).
• (a) adalah intersep.
• (b) adalah kemiringan.

Ide utamanya adalah garis yang dipasang dipilih sehingga membuat kesalahan prediksi sekecil mungkin dengan cara tertentu: garis tersebut meminimalkan jumlah residual kuadrat (\sum (y-\hat{y})^2) pada data pelatihan. Residual adalah perbedaan antara nilai (y) yang diamati dan nilai (\hat{y}) yang diprediksi.

Mekanisme: apa yang sebenarnya dihitung oleh contoh kerja

“Contoh kerja” berarti Anda memilih kumpulan data kecil, menyatakan setiap asumsi (termasuk bagaimana (x) dan (y) didefinisikan), menghitung (a) dan (b), lalu menggunakan garis yang dipasang untuk menghasilkan nilai yang dipasang dan setidaknya satu prediksi baru.

Asumsi untuk perhitungan numerik kerja di bawah ini:

1. Anda memiliki pengamatan berpasangan ((x_i, y_i)).
2. Bentuk model benar untuk jendela data: hubungan linear antara (x) dan (y).
3. Koefisien dihitung dengan kuadrat terkecil biasa (OLS): meminimalkan residual kuadrat.
4. Kami memperlakukan nilai input (x) sebagai yang diberikan (tanpa model ketidakpastian tambahan untuk (x)).
5. Contoh ini murni ilustratif; ini tidak menggunakan data pasar real-time.

Bukti: contoh kerja numerik sepenuhnya

Misalkan Anda mengamati 4 titik:

• (x: 1, 2, 3, 4)
• (y: 2, 3, 5, 4)

Langkah 1: Hitung rata-rata. [ \bar{x} = (1+2+3+4)/4 = 2.5 ] [ \bar{y} = (2+3+5+4)/4 = 3.5 ]

Langkah 2: Hitung kemiringan (b). [ b = \frac{\sum (x_i-\bar{x})(y_i-\bar{y})}{\sum (x_i-\bar{x})^2} ] Hitung nilai tabel:

• Untuk (x=1): (x-\bar{x}=-1.5), (y-\bar{y}=-1.5), hasil kali = 2.25
• Untuk (x=2): (x-\bar{x}=-0.5), (y-\bar{y}=-0.5), hasil kali = 0.25
• Untuk (x=3): (x-\bar{x}=0.5), (y-\bar{y}=1.5), hasil kali = 0.75
• Untuk (x=4): (x-\bar{x}=1.5), (y-\bar{y}=0.5), hasil kali = 0.75

Jumlah hasil kali = (2.25+0.25+0.75+0.75 = 4.0).

Penyebut (\sum (x_i-\bar{x})^2):

• ((-1.5)^2=2.25), ((-0.5)^2=0.25), ((0.5)^2=0.25), ((1.5)^2=2.25)

Jumlah = (2.25+0.25+0.25+2.25 = 5.0).

Jadi: [ b = 4.0/5.0 = 0.8 ]

Langkah 3: Hitung intersep (a). [ a = \bar{y} - b\bar{x} = 3.5 - 0.8\cdot 2.5 = 3.5 - 2.0 = 1.5 ]

Langkah 4: Tulis garis yang dipasang. [ \hat{y} = 1.5 + 0.8x ]

Langkah 5: Hitung nilai yang dipasang untuk (x) yang diamati.

• Jika (x=1), (\hat{y}=2.3)
• Jika (x=2), (\hat{y}=3.1)
• Jika (x=3), (\hat{y}=3.9)
• Jika (x=4), (\hat{y}=4.7)

Langkah 6 (satu prediksi sederhana): Untuk (x=5) baru, [ \hat{y}=1.5+0.8\cdot 5=5.5 ]

Setiap angka di atas dapat diverifikasi secara independen dengan menghitung ulang jumlah dan rumus OLS.

Keterbatasan dan risiko: apa yang dapat membuat regresi linear gagal

Regresi linear bukanlah jaminan prediksi yang akurat. Keterbatasan material meliputi:

1. Asumsi linearitas mungkin salah. Jika hubungan sebenarnya antara (x) dan (y) melengkung, garis lurus dapat secara sistematis meleset dari pola.
2. Sensitivitas terhadap pencilan. Satu (y) ekstrem (atau (x) yang berpengaruh jauh dari rata-rata) dapat menarik kemiringan dan intersep.
3. Hubungan historis mungkin tidak bertahan. Bahkan jika garis yang dipasang cocok dengan data pelatihan, masa depan dapat berperilaku berbeda karena proses yang menghasilkan data dapat berubah.
4. Variabel yang dihilangkan. Jika (y) bergantung pada faktor lain yang tidak diwakili oleh (x), kesalahan dapat menjadi terstruktur daripada acak.
5. Data berisik dan kesalahan model. Meminimalkan residual kuadrat meningkatkan satu gagasan tentang kecocokan tetapi tidak menjamin kinerja yang baik dalam kondisi yang berbeda.

Masalah-masalah ini umum untuk pemodelan statistik: hasil bervariasi dengan properti data dan bagaimana data dikumpulkan dan diproses.