廣義線性模型的懲罰高維經(jīng)驗似然.pdf

1、遼寧師范大學(xué)碩士學(xué)位論文廣義線性模型的懲罰高維經(jīng)驗似然姓名：劉琦申請學(xué)位級別：碩士專業(yè)：概率論與數(shù)理統(tǒng)計指導(dǎo)教師：侯文2012-04遼寧師范大學(xué)碩士學(xué)位論文P e n a l i z e dH i g h D i m e n s i o n a l E m p i r i c a lL i k e l i h o o d f o r G e n e r a l i z e d L i n e a rm o d e l sA b s t

2、r a o tT h e e m p i r i c a ll i k e l i h o o dm e t h o d ，i n t r o d u c e d b yO w e n [ 2 - 3 】，i so n e o f t h em o s t i m p o r t a n ts t a t i s t i c a li n f e r e n c e m e t h o d s ．A n d i t h a s m a

3、n y a d v a n t a g e s ．T h i s p a p e r c o n s i d e r s t h ep r o b l e m so f v a r i a b l es e l e c t i o na n d e s t i m a t i o n i ng e n e r a l i z e d l i n e a rm o d e l s v i at h ep e n a l i z e de

4、m p i r i c a ll i k e l i h o o d ( P E L ) m e t h o d ．I n t h eg e n e r a l i z e dl i n e a rm o d e l s ，w e s e l e c ta na p p r o p r i a t e p e n a l t yf u n c t i o n c o m b i n e dw i t ht h ee m p i r i

5、c a l l i k e l i h o o dm e t h o df o rs t a t i s t i c a li n f e r e n c eo n t h er e g r e s s i o nc o e f f i c i e n t s ．F u r t h e r m o r e ，w e s h o w t h a tP E L h a s t h eo r a c l ep r o p e r t y ．T

6、 h e P a p e r c o n s i s t so f t h ef o l l o w i n g f o u r c h a p t e r s ：C h a p t e r 1 i s m a i n l yf o c u s e do ni n t r o d u c i n gt h e f o r mo fg e n e r a l i z e dl i n e a rm o d e l ，t h ed e f

7、i n i t i o na n d t w ot h e o r e mo fe m p i r i c a l1 i k e l i h o o d m e t h o d ．t h ef o r mo fk i n d so fp e n a l t yf u n c t i o n s ，f o rh i g hd i m e n s i o n a l i t yd a t a ，t h ee m p i r i c a ll

8、 i k e l i h o o dm e t h o d i s s t i l l a p p l i e d ．a(chǎn) n di n t r o d u c e d t h eV 撕a b l es e l e c t i o n m e t h o d ．I nc h a p t e r 2 ，G i v et h ee m p i r i c a ll i k e l i h o o df u n c t i o no f ∥：L

9、 ( f 1 ) = s u P { I ] ∞i ：∞j ≥o ，∑C O i = 1 和∑∞i U i ( ∥) = o ) ．i = 1 i = 1 i = IT h e p e n a l i z e de m p i r i c a ll i k e l i h o o df o rp a r a m e t e re s t i m a t i o n a n d V 撕a b l es e l e c t i o n f

10、o rp r o b l e m sw i t hd i v e r g i n g n u m b e r s o f p a r a m e t e r s i sp r o p o s e d ．B y u s i n g a na p p r o p r i a t e p e n a l t yf u n c t i o n ，w es h o w t h a tP E L h a s t h eo r a c l ep r

11、o p e r t y ．O u r r e s u l t sa r e d e m o n s t r a t e d r e g r e s s i o nc o e f f i c i e n t s i ng e n e r a l i z e dl i n e a r m o d e l s ．乃a fi s jw i t hp r o b a b i l i t y t e n d i n g t oo n e 、p e

12、n a l i z e de m p i r i c a ll i k e l i h o o d i d e n t i f i e st h em o d e la n d e s t i m a t e s t h e n o n z e r oc o e f f i c i e n t sa se f ．6 c i e n t l ya si f t h es p a r s i t yo f t h et r u em o d

13、 e lw e r e k n o w n i na d v a n c e ．T h e a d v a n t a g eo f p e n a l i z e de m p i r i c a ll i k e l i h o o di si l l u s t r a t e d i nt e s t i n g h y p o t h e s i sa n d C o n s t r u c t i n g c o n f i

14、 d e n c es e t s ．I nc h a p t e r3 ，w e g i v e t h ec o m p u t a t i o no f t h e S C A D a sw e l la st h ec h o i c e o f t h e t u n i n gp a r a m e t e r ．a(chǎn) n d n u m e r i c a ls i m u l a t i o n sc o n f i r

15、mo u r t h e o r e t i c a l f i n d i n g s ．T 1 1 e p r o o f o f m a i n r e s u l t si sg i v e n i nc h a p t e r 4 ．F i r s t l y ，t op r o v e m a i nc o n c l u s i o n ，w ee s t a b l i s hs e v e r a ll e m m a

16、 s w h i c h a r e o f s i g n i f i c a n c eo n t h e i r o w n r i 曲t ，T h ee s t i m a t i o nt e c h n i q u e s L a g r a n g e m u l t i p l i e rm e t h o d ，c e n t r a l ．1 i m i tt h e o r e m p l a y a ni m p

17、 o r t a n t r o l ei nd e r i v i n g o u r r e s u l t s ，w h i c hs h o w t h ei m p o r t a n t p o s i t i o na n dr o l ei nt h es t a t i s t i c a li n f e r e n c e ．K e y W o r d s ：G e n e r a l i z e d l i n