課程大綱(NTU Cool)
- Introduction to course
- Problems & convexity measure
- Gradient Descent
- Mirror Descent
- Relative Smoothness
- Composite Minimization
- Frank Wolf Method
- Online complex optimization
修課基礎、建議
這是數學系(所)跟資工所合開的課程,但根據這門課程的設計,除了第一次作業需要有學過機率統計和多變量微分比較容易寫出來,後面應該是新的東西,不太需要任何數學基礎吧!
但事實證明,最後活下來的基本上都有掛數學系,且都是高年級的。簡單來說,這是一門給有經過大量數學訓練的人修的課程。
另一個建議是你很擅長通靈。每次作業大約有十個小題左右,其中約有5題是可以秒殺的(除最後一次作業),剩下的題目基本上需要一些Math Maturity才能解出來。所以如果要修這門課,你需要有很多時間來「天啟」,不然只能GG了! 舉例來說,我們Lab去修,陣亡(停修)率超過6成。
硬度、涼度(9/10)
這門課只有一次期中考、3份作業和期末報告。期中考是開書考,但平均最後沒及格。作業基本上花10小時以上(會有兩個禮拜讓你慢慢想)。期末報告3~4個人一組,由於我的隊友很罩(剛好他的研究主題),所以就沒有花太多時間在上面。
除非你是天才或通靈師,不然應該不會覺得這是一門簡單的課程。
上課方式及老師評價
上課主要是以投影片為主,以板書為輔。
老師教得很好,上課內容也非常扎實。但我覺得老師上課的缺點主要是有時候上到一半會突然間扯一些其他東西,導致我先前的思緒被打斷,我覺得有點可惜。另外,老師也會常常加入學生的話題(畢竟老師才剛從國外回來,很年輕),也常常會私下了解學生的問題點,並深入補充,我覺得老師在這方面還滿用心的。
修課心得
這門課在我心中的定位有點小尷尬。我會覺得這些理論很神奇,但回過頭想,會覺得我花時間學這些東西到底能幹嘛(但也有可能是我的研究領域基本上用不到吧!)
我覺得這門課的作業設計得很好(撇除難度這點外),每一大題都是某篇論文,作業會讓你一步步神奇的證明出論文的結論,就好像看了一篇論文一樣。且每一年的作業都不太一樣,根本沒有以前的做法可以參考,翻那篇論文也不會有想法,畢竟是老師用其他方法讓我們可以用上課的方法證明。(題目一年比一年難)
但這門課後半學期感覺有點混亂,不像前半學期多是以理論介紹,後半學期舉了很多例子(有可能是我沒共鳴),感覺發散掉了,有點可惜。
總結來說,如果對為何機器學習可以找到最佳解的理論有興趣,可以來修這門課程,收穫會非常的大。