Comparision of MQL, PQL and MCMC Methods for Parameter Estimation in Multilevel Generalized Linear Models

Abstract

ÖZET ÇOK SEVİYELİ GENELLEŞTİRİLMİŞ DOĞRUSAL MODELLERDE PARAMETRE TAHMİNLEMESİNDE MQL, PQL VE MCMC YÖNTEMLERİNİN KARŞILAŞTIRILMASI GÖKDERE AKKOL, Suna Doktora Tezi, Zootekni Anabilim Dalı Tez Danışmanı: Prof. Dr. Hayrettin OKUT Haziran 2004, 80 sayfa Normal dağılış göstermeyen cevap değişkeninin hiyerarşik bir yapıya sahip olması durumunda çok seviyeli genelleştirilmiş doğrusal modeller (Multilevel Genaralized Linear Model: Çok seviyeli GLM) kullanılmaktadır. Çok seviyeli GLM, yapısında hata teriminden başka şansa bağlı etki veya etkiler de içermektedir. Bu nedenle tahminleme yöntemleri genelleştirilmiş doğrusal karışık modeller (Genaralized Linear Mixed Model: GLMM) ile benzerlik göstermektedir. GLMM'de olabilirlik fonksiyonunun değerlendirilmesindeki zorluklar nedeni ile alternatif tahminleme yöntemleri kullanılmaktadır. Bu çalışmada, çok seviyeli GLM'de kullanılan MQL, PQL ve MCMC yöntemlerinin karşılaştırmalı olarak çalışılması amaçlanmıştır. Bu amaçla, Uç seviyeli yapıya sahip Poisson dağılışı gösteren veriler kullanılmıştır. Hiyerarşik yapı ve veriler, benzetim (simülasyon) yoluyla türetilmiştir. Bunun için, MLwiN istatistik paket programı kullanılmıştır. Veri setindeki hiyerarşi 3 seviyeli olup, birinci seviyede bireyler, ikinci seviyede aileler ve üçüncü seviyede semtler yer almıştır. Veri setinde, bağımlı değişken olarak aylık bira kullanım sıklığı ve aylık bira kullanım sıklığı üzerine etkili olabilecek değişkenler bulundurmaktadır. Söz konusu veri seti için önce /?0j*'nın şansa bağlı olduğu (Model A, Model B ve Model C) ve daha sonra hem p0jk hem de /?/yi'nın şansa bağlı olduğu (Model D) modeller denenmiştir. Buna göre aylık bira kullanım sıklığını açıklamada, semt ve ailelerin etkisinin modele dahil edilmesinin gerekli olduğu görülmüştür. Zira, hem Pojk hem de /7/y*'nın şansa bağlı olduğu modele ait devians en küçük olmuştur. Bu çalışmada, çok seviyeli GLM analizi yapılırken MQL, PQL ve MCMC yöntemleri kullanılmıştır. MQL, PQL yöntemleri olabilirlik fonksiyonunun yerine yaklaşık olabilirlik fonksiyonunu kullanmaktadır. Buna rağmen MCMC yöntemleri olabilirlik fonksiyonunun kendisini değerlendirmekte ve bunun için Bayes yorumlamadan faydalanmaktadır. MCMC yöntemleri Gibbs örnekleyicisi ve Metropolis Hastings örnekleyicisini kullanan farklı yaklaşımları içermektedir. Bu çalışmada, türetilen veri seti için en uygun tahminleme yönteminin MCMC yöntemlerinden multivariate adaptive hibrit Metropol is-Gibbs yönteminin olduğu sonucuna varılmıştır. Longitudinal ve cohort veriler için bu modellere ilişkin daha fazla çalışmaya ihtiyaç duyulmaktadır. Anahtar kelimeler: Çok seviyeli genelleştirilmiş doğrusal modeller, Marjinal Quasi Olabilirlik, Penalized Quasi Olabilirlik, MCMC yöntemleri, Gibbs örnekleme, Metropolis-Hastings, Çok seviyeli Poisson regresyonu.

ABSTRACT COMPARISION OF MQL, PQL AND MCMC METHODS FOR PARAMETER ESTIMATION IN MULTILEVEL GENERALIZED LINEAR MODELS GÖKDERE AKKOL, Suna PhD, Animal Science Advisor: Prof. Dr. Hayrettin OKUT June 2004, 80 pages. Multilevel Generalized Linear Model is used for hierarchical data structure when response variables have non Gaussian distribution. Multilevel GLM includes random effect(s) in addition to residual effect in the model. Therefore multilevel GLM shares the Generalized Linear Mixed Model (GLMM) properties. Alternative estimation methods such as MQL, PQL and MCMC are used for parameter estimations because of difficult evaluation of likelihood function in GLMM. In this study, it is aimed to compare the MQL, PQL and MCMC methods in multilevel GLM. For comparison of these models a data set that had Poisson distribution and three level structure were used. Data were produced from simulation. Hence, MLwiN statistical software was used for data simulation and construction of hierarchical structure. In three-level hierarchy, children were considered to be first, family second and neighborhood third level. Response variable was monthly beer using among family members. Explanatory variables that assumed have effects on beer using included in data set as well. For the current data, two different models were examined. In the beginning Po is random in the models (Model A, Model B and Model C), and then both p0 and P, were the random in the model (Model D) It has been concluded that neighborhood and family effects should include in the model. For the both models for multilevel GLM, MQL, PQL and MCMC methods were compared. MQL and PQL methods are used approximate likelihood function instead of full likelihood function. However MCMC methods evaluate different methods using both Gibbs sampling and Metropolis Hastings sampling. MCMC include two different approximations used Gibbs sampling and Metropolis Hastings sampling In conclusion, the best model that fit the simulated data used in this study was the adaptive Metropolis-Gibbs method. Further study need to be carried out on these models for longitudinal data and cohort data. n Key Words: Multilevel generalized linear models, Marginal Quasi Likelihood, Penalized Quasi Likelihood, MCMC methods, Gibbs sampling, Metropolis-Hastings, Multilevel Poisson Regression. m