木刻思 Deep Learning Newsletter 201704-1

刊物緣起:

由於 Deep Learning 近期的發展,處於一個超展開的知識爆炸時期,每天隨處可見隨手可得的各種 Deep Learning 資源,

有給初學者的,給進階者的,來自業界的實做經驗分享,來自學界的研究前緣論文與理論 ... 等等。

木刻思作為一間長期投入數學與尖端科技研究的顧問公司,也觀察到了我們自己內部的合作夥伴們,也都常常朝遇到類似的問題 ...

(1) 東西太多,分不太出來哪些是真正有價值的?哪些是看看就好的?

哪些是經典值得一看再看?哪些是最先進的實做,可以先跟著做體驗一下先進的科技?發想著下一代先進的應用!

(2) 新領域誕生和壯大的速度太快 (如GAN系列),很多資源都在網上紅個一兩天,收藏了以後沒有良好的分類,自己也找不太到自己的收藏?

(3) 找不到在追同一個領域的同好,一起討論最近彼此關注與蒐藏的資源與文章?

為了幫木刻思的夥伴們解決這些日常常遇到的問題,我們決定邀請各方 Deep Learning 的業界高手們,提供他們平常實做與研究正在關注的主題與資源。

並邀請一些本來就在做 Deep Learning 相關研究的專業小編,協助整理這些高手們提供的資源與連結!

建立一個方便搜尋,有著仔細分類的專欄,並於每兩週發表一次 Newsletter。

讓平常沒時間一篇一篇追的朋友,可以一次看完兩週最新的發展與概況!

 

 

近期,我們也將推出相關的讀書會,課程,或是一些 Learning Hackathon,

讓大家也可以有更多的機會聚在一起彼此交流著正在玩的最新的東西!

詳情請關注我們的網站與我們的粉專

正如木刻思的網站標題 Learning By Hacking 寫著,

木刻思是一個一直致力於提供最前緣 Hacker 學習最先進的技術的公司與社群

歡迎大家的加入!也希望可以持續和大家一起成長!

 

 

Highlight Researches:

 

MASK R-CNN BY FACEBOOK AI RESEARCH

Mask R-CNN,其架構概念直觀又靈活、通用,用於處理實例分割 (instance segmentation) 的成效驚人...

http://data-sci.info/2017/03/31/mask-r-cnn-facebook-ai-research/

DEEP PHOTO STYLE TRANSFER

這是由Adobe Research提出的一套可以轉換相片風格且不讓相片失真的方法,其成效相當驚人,不到兩個禮拜Github就已衝破5000顆星,更多介紹請參考

http://data-sci.info/2017/03/30/deep-photo-style-transfer/

NEURALL EPISODIC CONTROL

此為DeepMind最新的Reinforcement Learning的學習方法,主要受到大腦關於記憶的運作機制(Episodic Memory)啟發,其效果遠遠超越傳統的方法(A3C,DQN...etc) 更多介紹請參考

http://data-sci.info/2017/04/01/neural-episodic-control/

REINFORCEMENT LEARNING WITHOUT BACKPROP:OPEN AI EVOLUTION STRATEGIES

這是過去幾個禮拜爭議性最高的一份研究,小編幫大家整理了一些介紹和討論,更多細節請參考:

http://data-sci.info/2017/04/01/reinforcement-learning-without-backpropopen-ai-evolution-strateies/

OVERCOMING CATASTROPHIC FORGETTING IN NEURAL NETWORKS

Deepmind又一最新力作,克服了網絡學習的「災難性遺忘」問題...

http://data-sci.info/2017/03/28/overcoming-catastrophic-forgetting-neural-networks/

A LEARNED REPRESENTATION FOR ARTISTIC STYLE

Google在ICLR 2017提出的快素混合各種畫風到一張照片上的方法,更多細節請參考

http://data-sci.info/2017/03/26/google-fast-multi-style-transfer/

ARBITRARY STYLE TRANSFER IN REAL TIME WITH ADAPTIVE INSTANCE NORMALIZATION

和Google同期也是在ICLR 2017提出快速混合多種畫風到一張照片的方法,但又稍微做了一些延伸,更多細節請參考:

http://data-sci.info/2017/03/29/arbitrary-style-transfer-real-time-adaptive-instance-normalization/

DISCOGAN:LEARNING TO DISCOVER CROSS-DOMAIN RELATIONS WITH GENERATIVE ADVERSARIAL NETWORKS

這是一篇在探討如何不透過任何配對標記(Ex豹紋褲子配豹紋鞋子)來讓電腦自動學會如何發現這樣的對應關係的研究,也是近期GAN的個新的應用

http://data-sci.info/2017/03/25/discoganlearning-discover-cross-domain-relations-generative-adversarial-networks/

 

Tutorials & Courses:

 

DeepMind + Oxford: Deep Learning For Natural Language Processing Spring 2017

DeepMind和Oxford最新合作開授的一門課,關於課程介紹可以參考以下連結:

http://data-sci.info/2017/03/25/deep-learning-natural-language-processing-oxforddeepmind/

 

Google Brain 研究員手把手教你從頭學Deep Learning:DennyBritz WildML

Google現任研究員Denny Britz所經營的部落格,內有非常多乾貨。關於部落格介紹請參考:

http://data-sci.info/2017/03/12/googlebrainwildml/

ADVERSARIAL AUTOENCODERS WITH PYTORCH

此篇教學文將先介紹 dAE 與 VAE,再透過實作讓我們更直接的認識Adversarial Autoencoder...

http://data-sci.info/2017/03/28/adversarial-autoencoders-pytorch/

DEEP LEARNING WITHOUT BACKPROPAGATION – TUTORIAL: DEEPMIND’S SYNTHETIC GRADIENTS

此篇Tutotrial帶領你快速理解原理,還有簡單的實作程式碼可以玩唷...

http://data-sci.info/2017/03/24/deep-learning-without-backpropagation-tutorial-deepminds-synthetic-gradients/

DEEP LEARNING FOR NATURAL LANGUAGE PROCESSING WITH PYTORCH

PyTorch的各種文件持續成長中,這次釋出的是NLP的Tutorial...

http://data-sci.info/2017/03/21/deep-learning-natural-language-processing-pytorch/

 

Posts & Articles:

 

TRANSFER LEARNING – MACHINE LEARNING’S NEXT FRONTIER

這份連結中,包含了非常非常完整的 Transfer Learning 的各種素材與解釋...

http://data-sci.info/2017/03/26/transfer-learning-machine-learnings-next-frontier/

LEAST SQUARES GAN

比起背景知識繁重的WGAN,LSGAN更直覺,收斂更迅速...

http://data-sci.info/2017/03/21/least-squares-gan/

BAIDU DEEP VOICE EXPLAINED: PART 1 & PART2

百度釋出新的TextToSpeech技術「Deep Voice」,此文作者提供淺白的解釋以及相關的細節補充...

http://data-sci.info/2017/03/19/baidu-deep-voice-explained-part-1-part2/

 

Code & Projects:

 

DEEPWARP: PHOTOREALISTIC IMAGE RESYNTHESIS FOR GAZE MANIPULATION

如何用 Deep Learning 自動轉動照片中的眼珠, 做出有趣的表情呢 ...

http://data-sci.info/2017/03/14/deepwarp-photorealistic-image-resynthesis-gaze-manipulation/

IMAGE-TO-IMAGE TRANSLATION IN TENSORFLOW

最近 cGAN 和 GAN 的應用, 真的越來越多也越來越廣了...

http://data-sci.info/2017/03/13/image-image-translation-tensorflow/

 

DataSets:

 

Announcing AudioSets: A datasets for audio event research

Google從200萬個10秒鐘Youtube影片片段中進行聲音的標記(Ex  人的聲音可能有呼吸聲、心跳聲、口哨聲...),可以用來做聲音種類辨識的研究。細節請參考Google Research Blog

 

News:

 

Distill pub: A moder medium for presenting research:

這是個全新的Machine Learning研究發表平台,主張是以清晰互動的方式將晦澀艱深的研究呈現給大家。其主編和審查委員皆是這個領域的資深研究員或強者,因此若有發表在上面是可以獲得學術認可的。

 

ImageNet 2017: The last imagenet challenge

今年是Imege Net最後一年比賽。ImageNet可以說是近年人工智慧爆發的搖籃,就是在2012年一篇關鍵的CNN後Deep Learning和人工智慧才受到廣大的注意。而在後續的比賽中也孕育出許多著名的模型(Ex 微軟ResNet),關於更多歷史可以參考Jurgen Schmidhuber的回顧

Intel buys Mobileye in $15.3B deal, moves its automotive unit to Israel

Mobileeye是在以色列以電腦視覺在自動駕駛應用上為強項的新創公司。在以色列被收購的新創公司中,Intel這樁收購案的金額是由史以來最高的。它不僅將為Intel帶來自動駕駛的相關技術,也替Intel建立了一些和汽車製造業者的關係。

 

編輯心聲:

Leo Yang:

Deep Learning近期的發展也許真的能用AI的寒武紀來形容,

整個點線面都大爆發,技術突破海放一個之後又馬上被海放,不好好跟緊可能就只能做三葉蟲被恐龍屌打囉...

 

Kuan:

Hi~大家好:)

以上大概就是上個月我們挑出關於Deep Learning重要有用有趣的文章,有沒有覺得很多呀XD?

但其實還有更多很重要的東西小編實在來不及消化只好後續再跟大家分享。

 

 

Share the joy
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  

近期文章

近期迴響

彙整

分類

其它

c3h3 Written by:

Be First to Comment

發表迴響

你的電子郵件位址並不會被公開。 必要欄位標記為 *