Multicollinearity Problem and Alternative Approaches for Its Sollution

Abstract

Çoklubağlantı (Multicollinearity), çoklu doğrusal regresyon analizinde karşılaşılan önemli sorunlardan biridir. Çoklubağlantı sorunu olması durumunda, standart çoklu regresyon analizi (en küçük kareler metodu) yerine; faktör skorlarının kullanımı, ridge ve temel bileşenler regresyonu gibi alternatif istatistik analiz yöntemleri kullanılabilir. Bu çalışmada standart regresyon analizi ile birlikte adı geçen üç yöntem incelenmiş ve iki veri seti ile uygulama yapılmıştır. Yöntemlerin performanslarının belirlenmesinde; Varyans Şişme Faktörü (VIF), hata kareler ortalamasının karekökü ve belirleme katsayısı kriterleri kullanılmıştır.Sonuçta, standart regresyon analizi uygulanabilecek veri setine; ridge regresyon analizinin de uygulanabileceği, ancak çoklu bağlantı probleminin olması durumunda ridge regresyon analizi yönteminin standart regresyon analizine yerine kullanılabileceği vurgulanmıştır. Bununla birlikte çalışmada, çoklu bağlantı problemini gidermede faktör skorları ve temel bileşen regresyon analizi yöntemlerinin standart regresyon analizi yöntemine alternatif olarak kullanabileceğine de dikkat çekilmiştir.Anahtar kelimeler: Faktör skoru, Koşul indeksi, Ridge regresyon, Temel bileşenler regresyonu, Varyans şişme faktörü,

Multicollinearity is the most important problem encountered in multiple linear regression analysis. In case of multicollinearity, altenative approaches or statistical analysis methods such as factor scores for multiple regression analysis, Ridge and principle component regression have been frequently used to instead of standard multiple regression analysis (Least Squares Method). In the present study, performances of use of factor scores for multiple regression analysis, Ridge and principle component regression analysis metdods were evaluated and application of these methods were carried out on two data sets. In the evaluation of these methods, variance inflation factor, root of mean square error and determination coefficient criterias were used.As a result, it was noted that Ridge regression analysis can be used instead of standart multiple regeression analysis even applicable standart regression analyisis, however, in case of multicolinearity ridge regression will be used as an alternative method to standart multiple regression. In addition, it was underlined that factor scores and principle component regression are also used to as an altenative methods.Key words: Factor scores condition index, Ridge regression, Principle component regression, Variance inflation factor.