袁亞湘研究員學術報告之瞎子爬山與最優化方法

上傳人:無*** 文檔編號:236333749 上傳時間:2023-11-26 格式:PPT 頁數:61 大?。?1.51MB
收藏 版權申訴 舉報 下載
袁亞湘研究員學術報告之瞎子爬山與最優化方法_第1頁
第1頁 / 共61頁
袁亞湘研究員學術報告之瞎子爬山與最優化方法_第2頁
第2頁 / 共61頁
袁亞湘研究員學術報告之瞎子爬山與最優化方法_第3頁
第3頁 / 共61頁
資源描述:

《袁亞湘研究員學術報告之瞎子爬山與最優化方法》由會員分享,可在線閱讀,更多相關《袁亞湘研究員學術報告之瞎子爬山與最優化方法(61頁珍藏版)》請在裝配圖網上搜索。

1、從瞎子爬山到從瞎子爬山到 最優化方法最優化方法中科院數學與系統科學研究院袁亞湘http:/ 海拔“最”高l最優化 求“最”好的lOperations Research -Science of Better瞎子與計算機瞎子與計算機l瞎子 知道腳底下情況,但看不見周圍的東西l計算機 給一個點x,可計算:f(x),f(x),但對于x 附近的其他y,不知道 f(y)瞎子爬山瞎子爬山 vs 優化方法優化方法l瞎子和計算機誰快?l瞎子和計算機誰聰明?l瞎子會如何“看”“瞎子爬山法”呢?最速最速下降法下降法lk 使 f(xd)達到最小 (精確搜索)華羅庚:瞎子爬山法華羅庚(19101985)最好 +最好 =

2、最好?l 方向 (最速下降)(best dk)l 步長 (精確搜索)(best k)l xk+1=xk+k dk 是否最好?最速下降法應用于 f(x,y)=100 x2+y2Barzilai&Borwein Methodl 方向方向 (最速下降最速下降 最好方向最好方向)l 步長步長 (上一次的精確搜索步長上一次的精確搜索步長)l 最好的d +上一步上一步最好的 最好BB 方法 應用于 f(x,y)=100 x2+y2 信賴域方法信賴域方法非線性最小二乘問題非線性最小二乘問題 最小二乘問題最小二乘問題l 超定方程組求解l 數值模擬,曲線擬合l反問題 高斯牛頓法高斯牛頓法l xk+1=xk+dk

3、,如何求 dk?lA(x)是 F(x)的 JACOBI 陣J.C.F.Gauss(1777-1855)I.Newton (1642-1727)L-M步的最優性步的最優性l設設 dk 是是 Levenberg-Marquardt 步步:則它也是如下問題的解則它也是如下問題的解 信賴域方法信賴域方法l信賴域方法基本思想 1)局部區域 2)逼近模型 3)調節模型和區域l孫悟空的信賴域 相似相似 (近似)(近似)計算的技巧計算的技巧 復雜問題簡單化復雜問題簡單化 牛頓法牛頓法l牛頓法:l牛頓法的特點:1)優點:速度快(二次收斂)2)缺點:計算二階導數 擬牛頓法擬牛頓法l牛頓:l擬牛頓:l如何選取 B?

4、如何如何“擬擬”牛頓?牛頓?l擬牛頓方程:lDavidon(1959),Fletcher and Powell(1963):Fletcher&PowellFletcher&Powell依依葫蘆畫瓢葫蘆畫瓢 都行嗎?(都行嗎?(的故事的故事)limx0+5/x=5Question:limx0+5/x =?because limx0+8/x=8線性規劃線性規劃:單純形法單純形法lLinear Programming(LP)Problem:min cT x A x=b x 0 單純形方法 逐步調整N 得到解 G.Dantzig(1914-2005)線性規劃的另兩個奠基者線性規劃的另兩個奠基者Leon

5、id Kantorovich John von Neumann(1912-1986)(1903-1957)小人物小人物 大人物大人物lHotelling(1885-1973):“But we all know the world is nonlinear.”l Von Neumann(1903-1957):“Mr.Chairman,Mr Chairman,if the speaker doesnt mind,I would like to reply for him.The speaker titled his talk linear programming and carefully sta

6、ted his axioms.If you have an application that satisfies the axioms,well use it.If it does not,then dont.”線性規劃:內點法lInterior Point Method(Karmarkar,1984)l xk 0 內點 November 19,1984內點法 與 罰函數 min cTx s.t.A x=b x =0 Log-barrier function:min cTx-log(xi)s.t.A x=b KKT Newtons Step內點法和平面幾何非線性優化問題非線性優化問題KKT P

7、OINTS 中國古代馬鞍lMatlab plot:x2 y2Lagrange(1736-1813)lPrimalldualLibration of the moon等價等價 與與 等效等效l在在數學上等價,在計算上不一定等效數學上等價,在計算上不一定等效 -馮康(馮康(19201993)例子:例子:(B+I)d =-g,|d|=|d()|=1/|d()|=1/Leonhard Euler(1707-1783)Leonhard Euler(1707-1783)由于宇宙組成是最完美也是最由于宇宙組成是最完美也是最聰明造物主之產物,宇宙間萬聰明造物主之產物,宇宙間萬物都遵循某種最大或最小準則物都遵循

8、某種最大或最小準則 歐拉歐拉 Fr,da das Gewebe des Universums am vollkommensten und die Arbeit eines klgsten ist Schpfers,nichts an findet im Universum statt,in dem irgendeine Richtlinie des Maximums oder des Minimums nicht erscheint 優化問題優化問題l任何存在任何存在/需要決策的問題都是優化問題需要決策的問題都是優化問題l力學:力學:(最小重量,最大載重,結構最優)(最小重量,最大載重,結構最

9、優)l材料科學;材料科學;(最小能量)(最小能量)l金融:金融:(最大利潤,最小風險)(最大利潤,最小風險)l生命科學:生命科學:(DNA 序列序列,蛋白質折疊)蛋白質折疊)l信息科學:信息科學:(Data Mining,圖像處理)圖像處理)l地學:地學:(反問題(反問題 誤差最?。┱`差最?。﹍交通:交通:(最大效益,時刻表,恢復運行)(最大效益,時刻表,恢復運行)圖像存儲問題圖像存儲問題盡可能少的存貯,盡可能清晰的圖像 求解 A x =b,x Rn A Rmn ,b Rm .m f(xk)|c(xk+sk)|c(xk)|Maratos Effect 的幾何表現FLETCHER二階校正步二階校正步二階校正步方法二階校正步方法lSQP 步:l二階校正步:l新點:s =h +v 二階步 也是 v 步輪子不一樣大的車輪子不一樣大的車QUESTION:見過左右兩邊輪子尺寸不一的車嗎?如果有,如何設計傳動裝置?大輪子轉兩圈,小輪子轉一圈 what happens?Null Space method:xk+1=xk+vk+hk+v(new)

展開閱讀全文
溫馨提示:
1: 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
2: 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
3.本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
5. 裝配圖網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
關于我們 - 網站聲明 - 網站地圖 - 資源地圖 - 友情鏈接 - 網站客服 - 聯系我們

copyright@ 2023-2025  zhuangpeitu.com 裝配圖網版權所有   聯系電話:18123376007

備案號:ICP2024067431-1 川公網安備51140202000466號


本站為文檔C2C交易模式,即用戶上傳的文檔直接被用戶下載,本站只是中間服務平臺,本站所有文檔下載所得的收益歸上傳人(含作者)所有。裝配圖網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對上載內容本身不做任何修改或編輯。若文檔所含內容侵犯了您的版權或隱私,請立即通知裝配圖網,我們立即給予刪除!

日韩精品一区二区三区在线播放_亚洲中文字幕无码人在线_最新亚洲av日韩av二区_欧美深深色噜噜狠狠网站