Comparison of the method of partial least squares and the algorithm of singular values decomposion to estimate the parameters of the logistic regression model in the case of the problem of linear multiplicity by using the simulation

Title (Arabic)

مقارنة بين طريقة المربعات الصغرى الجزئية وخوارزمية تجزئة القيم المفردة لتقدير معلمات أنموذج الانحدار اللوجستي في حالة وجود مشكلة التعدد الخطي بأستعمال المحاكاةg

Authors

Mahmoud Mahdi Al-Bayati, Department of Statistics, College of Administration & Economics, University of Baghdad, Republic of Iraq
Hadeel Hamed Shakir, Department of Statistics, College of Administration & Economics, University of Baghdad, Republic of Iraq

DOI

10.33095/jeas.v24i109.1559

Abstract

The logistic regression model is an important statistical model showing the relationship between the binary variable and the explanatory variables. The large number of explanations that are usually used to illustrate the response led to the emergence of the problem of linear multiplicity between the explanatory variables that make estimating the parameters of the model not accurate. The methods used to estimate the parameters of the logistic regression model in the case of the linear multiplication problem. These methods are the method of regression of the partial least squares and the algorithm of singular value decomposion. The simulation method was used to compare estimation methods through the mean error squares of the model. It has been shown through the comparison that the algorithm of singular value decomposion is best in estimating the parameters of the logistic regression model in the case of the problem of linear multiplicity.

Abstract (Arabic)

يعد أنموذج الانحدار اللوجستي من النماذج الاحصائية المهمة حيث يوضح العلاقة بين المتغير التابع ثنائي الاستجابة والمتغيرات التوضيحية (التفسيرية). أن العدد الكبير لمتغيرات توضيحية تستعمل عادة لتوضيح الاستجابة ادى الى ظهور مشكلة التعدد الخطي(Multicollinearity) بين المتغيرات التوضيحية التي تجعل تقدير معلمات النموذج ليست دقيقة. تم في هذا البحث استعمال طرائق لتقدير معلمات أنموذج الانحدار اللوجستي في حالة وجود مشكلة التعدد الخطي وهذه الطرائق هي طريقة انحدار المربعات الصغرى الجزئية(PLSR) و خوارزمية تجزئة القيم المفردة(SVD), اذ تم استخدام اسلوب المحاكاة للمقارنة بين طرائق التقدير من خلال متوسط مربعات الخطأ(MSE) للأنموذج. واتضح من خلال المقارنة أن خوارزمية تجزئة القيم المفردة (SVD) هي الافضل في تقدير معلمات أنموذج الانحدار اللوجستي في حالة وجود مشكلة التعدد الخطي.

Recommended Citation

Al-Bayati, M. M., & Shakir, H. H. (2018). Comparison of the method of partial least squares and the algorithm of singular values decomposion to estimate the parameters of the logistic regression model in the case of the problem of linear multiplicity by using the simulation. Journal of Economics and Administrative Sciences, 24(109), 458. https://doi.org/10.33095/jeas.v24i109.1559

First Page

458