[研究分享] 深度學習網路壓縮

分層補償剪枝 (LcP) 後模型準確性 (y-axis) 以及運算資源 (x-axis) 分享一下我在 Microsoft Research 做的暑期專案,雖然是技術文章,但我盡量用科普的角度來敘述我的研究方向。我目前博士班的方向也大致上是深度網路模型壓縮。 深度類神經網路 (Deep Neural Networks) 簡單來說呢,深度學習在做的事情,就是學習把某些輸入變成某些輸出,什麼意思呢?常用的例子就是我今天有好多圖片(輸入),我想要我的電腦學會看到這些圖片知道裡面是狗還是貓(輸出)。深度學習就是透過演算法來訓練深度類神經網路,讓這個網路能夠正確的學會輸入跟輸出的關係。而深度類神經網路呢,就是有很多層相互連結運算的一種模型 (很簡略地介紹,有興趣的話 Google 能夠提供非常多資料)。 目前深度學習的發展,已經讓許多困難的問題都有突破性的進展,比如說物件偵測 (Object Detection), 語音識別 (Speech Recognition), 以及機器翻譯 (Machine

Read more