木刻思 DEEP LEARNING NEWSLETTER 201707-19

刊物緣起:

由於 Deep Learning 近期的發展,處於一個超展開的知識爆炸時期,每天隨處可見隨手可得的各種 Deep Learning 資源,

有給初學者的,給進階者的,來自業界的實做經驗分享,來自學界的研究前緣論文與理論 … 等等。

木刻思作為一間長期投入數學與尖端科技研究的顧問公司,也觀察到了我們自己內部的合作夥伴們,也都常常朝遇到類似的問題 …

(1) 東西太多,分不太出來哪些是真正有價值的?哪些是看看就好的?

哪些是經典值得一看再看?哪些是最先進的實做,可以先跟著做體驗一下先進的科技?發想著下一代先進的應用!

(2) 新領域誕生和壯大的速度太快 (如GAN系列),很多資源都在網上紅個一兩天,收藏了以後沒有良好的分類,自己也找不太到自己的收藏?

(3) 找不到在追同一個領域的同好,一起討論最近彼此關注與蒐藏的資源與文章?

為了幫木刻思的夥伴們解決這些日常常遇到的問題,我們決定邀請各方 Deep Learning 的業界高手們,提供他們平常實做與研究正在關注的主題與資源。

並邀請一些本來就在做 Deep Learning 相關研究的專業小編,協助整理這些高手們提供的資源與連結!

建立一個方便搜尋,有著仔細分類的專欄,並於每兩週發表一次 Newsletter。

讓平常沒時間一篇一篇追的朋友,可以一次看完兩週最新的發展與概況!

近期,我們也將推出相關的讀書會,課程,或是一些 Learning Hackathon,

讓大家也可以有更多的機會聚在一起彼此交流著正在玩的最新的東西!

詳情請關注我們的網站與我們的粉專

正如木刻思的網站標題 Learning By Hacking 寫著,

木刻思是一個一直致力於提供最前緣 Hacker 學習最先進的技術的公司與社群

歡迎大家的加入!也希望可以持續和大家一起成長!

Hilighted Research Paper

Dual Supervised Learning

微軟亞洲研究院在ICML2017提出的新的學習框架。主要利用學習任務間的對偶關係來增進模型學習的表現。

Creative Adversarial Network

FAIR與藝術學院合作的CAN,改編自GAN,分別對Discriminator加入分類圖像的loss以及對Generator加入其創造的圖像是否能被歸類的loss,使機器不僅止於模仿圖像,進而創造。

Accurate, Large Minibatch SGD Training ImageNet in 1 Hour

FAIR(Facebook AI Research)對分散式SGD如何透過提高Minibatch Size從而縮短訓練時間進行了實證性研究。最終結果在ResNet-50上將Minibatch Size設定為8192,並利用256個GPU做分散式訓練,訓練時間成功從29小時縮短至1小時且維持相同的準確率。

VisualBackProp: efficient visualization of CNNs

Nvidia, NYU,Google Brain Robotics 共同發表的論文。VisualBackProp 可以在短時間內找出圖形中對CNN預測模型貢獻最多的pixel sets (Mask)。
此篇論文所提出的方法主要是作為自駕車CNN-based system的debug工具。

Post & Article

Sebastian Ruder NLP News Letter

曾經寫過很多深度的教學文的部落客Sebastian Ruder 將開始發行他的Weekly Newsletter,特別適合對NLP有興趣的讀者收藏。

Robust Adversarial Example

OpenAI為了反駁實體的Adversarial Example在縮放、移動等變換下不具使自駕車判別錯誤的論述而提出的新實驗。OpenAI的實驗顯示了還是有實體的Adversairal Example在旋轉、縮放等變換下可以騙過機器學習的模型。

Using Deep Learning to Create Professional-Level Photographs

Google提出的最新方法,可以讓機器學會如何拍出具備半職業/職業水準的照片。

Code & Project

Extensive, Lightweight, and Flexible platform

FAIR最新的開源即時策略遊戲模擬器,提供研究人員一個輕量、彈性且可客製化的RL遊戲Agent研究環境。

Awesome Image Semantic Segmentation

從最早的影像語意分析的方法到最近的DeepLabv3的文獻回顧和整理,適合想要一窺影像語意分割領域的讀者。

State-of-the-art neural coreference resolution for chatbots

一個基於SpaCy開源的NLP Coreferecne套件包和在Deep Reinforcement Learning for Mention-Ranking Coreference提到的模型實作。

News

Results of ImageNet ILSVRC 2017

最新ImageNet大賽的結果出爐!結果是由北京的Momenta.ai以top 5錯誤率2.25%拿下冠軍,較去年的3%表現更佳。

Microsoft creates an AI research lab to challenge Google and DeepMind

微軟決定創立一個新的人工智慧實驗室來力抗DeepMind和Google。這間實驗室將位於微軟Redmond總部且正式和MIT合作。

Google Announces Gradient Venture

Google最新成立的AI Startup VC,入選的將有機會獲得Google的資金和各種相關資源。

NIPS 2017 Adversarial Competition on Kaggle

由Google Brain Ian Goodfellow和Alexy Kurakin在Kaggle上辦的Adversarial Attack/Defense的比賽。主要有三個track,分別為兩個攻擊一個防守。這是世界上第一個大型的Adversarial的比賽。

Share the joy
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  

近期文章

近期迴響

彙整

分類

其它

kuanchen Written by:

Be First to Comment

發表迴響

你的電子郵件位址並不會被公開。 必要欄位標記為 *