木刻思 DEEP LEARNING NEWSLETTER 201706-29

刊物緣起:

由於 Deep Learning 近期的發展,處於一個超展開的知識爆炸時期,每天隨處可見隨手可得的各種 Deep Learning 資源,

有給初學者的,給進階者的,來自業界的實做經驗分享,來自學界的研究前緣論文與理論 … 等等。

木刻思作為一間長期投入數學與尖端科技研究的顧問公司,也觀察到了我們自己內部的合作夥伴們,也都常常朝遇到類似的問題 …

(1) 東西太多,分不太出來哪些是真正有價值的?哪些是看看就好的?

哪些是經典值得一看再看?哪些是最先進的實做,可以先跟著做體驗一下先進的科技?發想著下一代先進的應用!

(2) 新領域誕生和壯大的速度太快 (如GAN系列),很多資源都在網上紅個一兩天,收藏了以後沒有良好的分類,自己也找不太到自己的收藏?

(3) 找不到在追同一個領域的同好,一起討論最近彼此關注與蒐藏的資源與文章?

為了幫木刻思的夥伴們解決這些日常常遇到的問題,我們決定邀請各方 Deep Learning 的業界高手們,提供他們平常實做與研究正在關注的主題與資源。

並邀請一些本來就在做 Deep Learning 相關研究的專業小編,協助整理這些高手們提供的資源與連結!

建立一個方便搜尋,有著仔細分類的專欄,並於每兩週發表一次 Newsletter。

讓平常沒時間一篇一篇追的朋友,可以一次看完兩週最新的發展與概況!

近期,我們也將推出相關的讀書會,課程,或是一些 Learning Hackathon,

讓大家也可以有更多的機會聚在一起彼此交流著正在玩的最新的東西!

詳情請關注我們的網站與我們的粉專

正如木刻思的網站標題 Learning By Hacking 寫著,

木刻思是一個一直致力於提供最前緣 Hacker 學習最先進的技術的公司與社群

歡迎大家的加入!也希望可以持續和大家一起成長!

Hilighted Research Paper

Simple Neural Network Module for Relational Reasoning

DeepMind最新Relational Reasoning的paper,在VQA(CLEVR)的dataset上取得了超越人類水準的表現。

Rethinking Atrous Convolution for Semantic Image Segmentation

Google提出最新Image Semantic Segmentation的方法 DeepLab v3,在常用的dataset PASCAL VOC 2012 取得了state-of-the-art的結果。

PointNet: Deep Learning on Point Sets for 3D Classification and Segmentation

Stanford團隊提出PointNet直接處理Raw 3D Point Cloud Data,更有效地取出Sparse 3D Point Cloud的特徵,在3D Classification與Segmentation問題上都有很好的表現。

See, Hear, and Read: Deep Aligned Representations

MIT的Computer Vision Lab提出一種新的模型,探討如何把視覺、聽覺、與閱讀的能力融合在同一個神經網路中,讓完全不同來源與結構的資料(圖片、聲音、文章段落)能夠共享具有語義的高層神經元,並實現不同來源之間的檢索與分類。

Self-Normalization Neural Network

由LSTM之父Hochreiter提出的新Activation Neuron。具備自動收斂到mean=0,variance=1的能力,已經在一些實驗上證明其收斂速度勝過許多之前的方法。

One Model to Learn Them All

Google Tensorflow最新模組化框架Tensor2Tensor,可以ㄧ個Model同時實現Speech/Image Recognition and Translation!

Hybrid Reward Architecture

微軟Maluuba提出的Reinforement Learning方法,在小精靈這個遊戲上首次達到最高分。

Attention is All You Need

Google最新神經翻譯的架構,不用之前常用的CNN,LSTM的模型,全部只透過Attention的機制來達到和之前模型相當的甚至更好的表現。

Post & Article

Measuring the Progress of AI Research

這篇整理得近幾年Machine Learning在各個任務上的表現(Ex VQA, Image Recognition)。可以迅速瞭解Machine Learning在各領域的SOTA。

Generative Adversarial Networks for Beginners

由歐萊禮GAN教學!用tensorflow手把手教你用MNIST打造一個最基本的GAN。

Essential Cheat Sheets for Machine Learning and Deep Learning Engineers

一張包含Machine Learning常用套件 (Scipy,Sklearn,Keras,Pandas..etc) 的常用指令大全,適合寫程式的時候快速查找 。

Tutorial & Course

Stanford CS 20SI: Tensorflow for Deep Learning Research

Stanford開的Tensorflow 課程,從入門到深入手把手的tensorflow教學。同時還有word2vec,styletransfer等具體例子讓學生實際用tensorflow做model

Code & Project

Run Faster RCNN Using Tensorflow Detection API

Tensorflow 的Object Detection的API的安裝和介紹,可以讓使用者簡單調用Faster RCNN來做Object Detection。

Dataset

Manga 109

目前最大的日本動漫dataset,適合給對日本動漫有興趣的讀者探索。

News

Robot Car Tech Startup Drive.ai Raises $50 Million, Adds Stanford's Ng To Board

AI大牛Andrew Ng離開百度後最終確認加入新創公司Drive.ai,該公司是由一群史丹佛的畢業生創立,致力於自動駕駛車的AI。更多該公司的介紹請參考新聞連結。

Carnegie Mellon Solidifies Leadership Role in Artificial Intelligence

CS名校CMU開始的一個新AI計劃。這個計畫將跨學門整合AI在不同領域的應用,提供更多更廣AI的應用和研究場域。

Tesla hires deep learning expert Andrej Karpathy to lead Autopilot vision

前李飛飛的博士生、OpenAI的大牛Andrej Kparthy將加入Telsa成為AI and Autopilot Vision的主任協助Tesla研發自動駕駛車

Share the joy
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  

近期文章

近期迴響

彙整

分類

其它

kuanchen Written by:

Be First to Comment

發表迴響

你的電子郵件位址並不會被公開。 必要欄位標記為 *