Analisis Regresi

Dalam statistik , analisis regresi termasuk setiap teknik untuk pemodelan dan menganalisis beberapa variabel, ketika fokusnya adalah pada hubungan antara variabel dependen dan satu atau lebih variabel independen . Lebih khusus, analisis regresi membantu satu memahami bagaimana nilai khas perubahan variabel dependen ketika salah satu dari variabel independen bervariasi, sedangkan variabel independen lainnya yang dilaksanakan tetap. Umumnya, analisis regresi memperkirakan ekspektasi bersyarat dari variabel dependen yang diberikan variabel independen – yaitu, nilai rata-rata dari variabel dependen ketika variabel independen diadakan tetap. Kurang umum, fokusnya adalah pada kuantil , atau parameter lokasi distribusi bersyarat dari variabel dependen yang diberikan variabel independen. Dalam semua kasus, target estimasi merupakan fungsi dari variabel independen yang disebut fungsi regresi. Dalam analisis regresi, juga kepentingan untuk menggambarkan variasi dari variabel dependen sekitar fungsi regresi, yang dapat dijelaskan oleh distribusi probabilitas .

Analisis regresi digunakan secara luas untuk prediksi dan peramalan , dimana penggunaannya bersifat substansial tumpang tindih dengan bidang mesin belajar . Analisis regresi juga digunakan untuk memahami yang antara variabel independen yang berhubungan dengan variabel dependen, dan untuk mengeksplorasi bentuk hubungan ini. Dalam keadaan terbatas, analisis regresi dapat digunakan untuk menyimpulkan hubungan kausal antara variabel independen dan dependen.

Sebuah tubuh besar teknik untuk melakukan analisis regresi telah dikembangkan. Familiar metode seperti regresi linier dan kuadrat terkecil biasa regresi parametrik , dalam fungsi regresi didefinisikan dalam istilah dari jumlah terbatas yang tidak diketahui parameter yang diestimasi dari data . regresi nonparametrik mengacu pada teknik yang memungkinkan fungsi regresi untuk berbaring di suatu tertentu set fungsi , yang mungkin tak terbatas-dimensi .

Kinerja metode analisis regresi dalam praktek tergantung pada bentuk proses data-menghasilkan, dan bagaimana kaitannya dengan pendekatan regresi yang digunakan. Karena bentuk sejati dari proses data-menghasilkan pada umumnya tidak diketahui, analisis regresi sering tergantung sampai batas tertentu untuk membuat asumsi tentang proses ini. Asumsi ini kadang-kadang (tetapi tidak selalu) dapat diuji jika sejumlah besar data yang tersedia. Regresi model untuk prediksi sering berguna bahkan ketika asumsi tersebut cukup dilanggar, meskipun mereka mungkin tidak berfungsi secara optimal. Namun, di banyak aplikasi, terutama dengan kecil efek atau pertanyaan dari kausalitas berdasarkan data observasi , metode regresi memberikan hasil yang menyesatkan.