求解無約束優(yōu)化問題的一類帶線搜索的自適應信賴域算法.pdf

1、首都師范大學碩士學位論文求解無約束優(yōu)化問題的一類帶線搜索的自適應信賴域算法姓名：李紅申請學位級別：碩士專業(yè)：應用數(shù)學指導教師：焦寶聰20070406A b 8 t r a c tT h e t r u s t r e g i o nm e t h o di sa k i n do fe f f i c i e n t a n dr o b u s tm e t h o d t os o l v et h eg e n e r a lu

2、n c o n s t r a i n e do p t i m i z a t i o na n di t ss p e c i a ls i t u a t i o n ，t h e n o n l i n e a rl e a s ts q u a r e sp r o b l e m s ．B e c a u s e o fi t sr e m a r k a b l en u m e r i c a lr e l i a b

3、i l i t y i n c o n -j u n c t i o nw i t has o u n da n d c o m p l e t ec o n v e r g e n c e t h e o r y , r e s e a r c h e r si nn o n l i n e a ro p t i m i z a t i o na r e ah a v ep a i dg r e a t a t t e n t i o

4、 n t o i t s i n c e 8 0 ’S ．A tp r e s e n t ．t r u s tr e g i o nm e t h o d s a n d l i n e s e a r c hm e t h o d s a r e t w om a i n l yt y p e sn u m e r i c a la l g o -r i t h m sf o rn o n l i n e a rp r o g r

5、a m m i n g ．T h e c h o i c eo ft h et r u s tr e g i o n r a d i u sh a sa ni m p o r t a a t e f f e c to nt h ee f f i c i e n c yo ft h et r u s tr e g i o nm e t h o d s ．H e il l l p r o p o s e das e l f - a d a

6、p t i v et r u s tr e g i o na l g o r i t h m ，i nw h i c h t h et r u s tr e g i o nr a d i u si s u p d a t e da t av a r i a b l er a t eb yaR - f u n c t i o n ．Z h a n g e t ．a 1 ．閣a l s o p r o p o s e da na d a p

7、 t i v et r u s t r e g i o nm e t h o d ，i nw h i c ht h et r u s tr e g i o nr a d i u sd e p e n d so nt h eg r a d i e n ta n dH e s s i a no ft h ec u r r e n ti t e r a t ep o i n t ．N u m e r i c a lr e s u l t ss

8、 h o wt h a tb o t ht h em e t h o d sa r em o r ee f l i c i e n tt h a nt h et r a d i t i o n a lt r u s tr e g i o nm e t h o ( i s ．I n1 9 9 1 ，J o r g e N o c e d a la n dY a x i a n g Y u a n f i r s tp r o p o s

9、e d an e wa l g o r i t h ml 訓b ye m p l o y i n gb o t ht r u s t r e g i o na n dl i n e ∞_ a r c h e sa n dt h e yg a v ea na l g o r i t h mw h i c hc o m b i n gt r u s t r e g i o na n dl i n es e a r c hf o ru n c

10、 o n s t r a i n e d o p t i m i z a t i o n ．T h ef i r s tp a r to ft h et h e s i s p r o p o s e s as e l f - a d a p t i v e t r u s t r e g i o n a l g o r i t h mw i t h l i n es e a r c ht os o l v et h eg e n e

11、r a lu n c o n s t r a i n e do p t i m i z a t i o np r o b l e m ，i nw h i c hw ec o m b i nt h es e l f -a d a p t i v et r u s tr e g i o nm e t h o di n 【1 ] w i t ht h et r a d i t i o n a l l i n es e a r c h ．W e

12、e s t a b l i s ht h eg l o b a lc o n v e r g e n c er e s u l t o ft h en e w m e t h o d ．N u m e r i c a l r e s u l t ss h o wt h a tt h en e wm e t h o di s m o r ee f f i c i e n t t h a nt h em e t h o di n i l j

13、 ．T h es e c o n dp a r t o ft h et h e s i s p r o p o s e dan e wn o n m o n o t o n i cs e l f - a d a p t i v et r u s tr e g i o nm e t h o d ，t os o l v et h eg e n e r a lu n c o n s t r a i n e do p t i m i z a t

14、 i o np r o b l e m ，i nw h i c hw e c o m b i nt h es e l f - a d a p t i v e t r u s tr e g i o nm e t h o di n 【1 ] w i t ht h en o n m o n o t o n i ct e c h n i q u e s ．S i n c et h e f i r s tp a r t o ft h et h e

15、 s i sb e c o m e s a s p e c l ‘a lc a s eo ft h es e c o n dp a r to f t h e t h e s i s ．I nc h a p t e r1 ．w ei n t r o d u c et h ed e v e l o p m e n t o fo p t i m i z a t i o na n d s o m ee x t e n —s i v eo p t