深度学习如何入门?

xiom8944 2年前
   <p>如果您具有数学和计算机科学方面的工程背景或相关知识的编码经验,只需两个月即可熟练掌握深度学习。 难以置信? 四步使它成为可能。</p>    <p>欲了解更多,请往下看</p>    <h2>Step 1: 学习机器学习基础</h2>    <p>(可选,但强烈推荐)</p>    <p>开始于Andrew Ng的机器学习 <a href="/misc/goto?guid=4958985450327747017" rel="nofollow,noindex">机器学习 - 斯坦福大学</a> 。他的课程介绍了目前各种机器学习算法,更重要的是机器学习的一般程序和方法,包括数据预处理,超参数调优等。</p>    <p>同时推荐阅读由Geoff Hinton,Yoshua Bengio和Yann LeCun提供的 <a href="/misc/goto?guid=4959754398046106787" rel="nofollow,noindex">NIPS 2015深度学习教程</a> ,其中介绍略少一些。</p>    <p><img src="https://simg.open-open.com/show/b0eceae4db93d807acd0caeadf09a706.png"></p>    <h2>Step 2: 深入学习</h2>    <p>个人的学习偏好是观看演讲视频,并有几个优秀的课程在线。 这里有几个特别喜欢的课程,可以推荐:</p>    <ul>     <li> <p><a href="/misc/goto?guid=4959754398141781920" rel="nofollow,noindex">Deep learning at Oxford 2015</a> 由Nando de Freitas教授解释基础知识,不会过于简单。</p> <p>如果您已经熟悉神经网络并希望深入,请从第9讲开始。 他在他的例子中使用Torch framework。 <a href="https://www.油Tube.com/playlist?list=PLE6Wd9FR--EfW8dtjAuPoTuPcqmOV53Fu&app=desktop" rel="nofollow,noindex">(Videos on 油Tube)</a></p> </li>     <li> <p><a href="/misc/goto?guid=4959754398317172632" rel="nofollow,noindex">Neural Networks for Machine Learning</a> Geoffrey Hinton在Coursera上的课程。Hinton是一位优秀的研究人员,他们展示了广义反向传播算法的使用,对深度学习的发展至关重要。</p> </li>     <li> <p><a href="/misc/goto?guid=4959553799298993404" rel="nofollow,noindex">Neural Networks Class</a> by Hugo Larochelle: 另一个优秀的课程</p> </li>    </ul>    <p>如果你更喜欢的是书籍,这里有一些优秀的资源。 去查看一下,我不做判断。</p>    <ul>     <li> <p><a href="/misc/goto?guid=4958862734067045457" rel="nofollow,noindex">Neural Networks and Deep Learning Book</a> by <a href="/misc/goto?guid=4959643111295123181" rel="nofollow,noindex">Michael Nielsen’s</a> :在线学习书,并有几个交互式JavaScript元素可以玩。</p> </li>     <li> <p><a href="/misc/goto?guid=4958989206881529847" rel="nofollow,noindex">Deep Learning Book</a> by Ian Goodfellow, Yoshua Bengio和Aaron Courville:比较密集,但莫非不是一个很好的资源</p> </li>    </ul>    <p><img src="https://simg.open-open.com/show/e1402001599135aaf25f8508463a4bfb.png"></p>    <h2>Step 3: 选择一个区域并进一步深入</h2>    <p>确定自己继续深入学习的热情。 这个领域是巨大的,所以这个列表绝对不是一个全面的列表。</p>    <ul>     <li> <p>计算机视觉: 深入学习已经改变了这一领域。 斯坦福大学的CS231N课程由Andrej Karpathy的课程是我遇到的最好的课程; <a href="/misc/goto?guid=4959648874890857572" rel="nofollow,noindex">CS231n卷积神经网络视觉识别</a> 。 它向您介绍了基础知识以及covnets,以及帮助您在AWS中设置GPU实例。 另请参阅 <a href="/misc/goto?guid=4959754398543076266" rel="nofollow,noindex">Mostafa S. Ibrahim</a> 的“ <a href="/misc/goto?guid=4959754398634933800" rel="nofollow,noindex">计算机视觉入门</a> ”</p> </li>     <li> <p>自然语言处理 (NLP):用于机器翻译,问答,情绪分析。 要掌握这一领域,需要深入了解这两种算法和自然语言的基础计算属性。 <a href="/misc/goto?guid=4959754398718963248" rel="nofollow,noindex">CS 224N / Ling 284</a> by <a href="/misc/goto?guid=4959754398802845417" rel="nofollow,noindex">Christopher Manning</a> 是一个很棒的课程。 <a href="/misc/goto?guid=4959632483411764889" rel="nofollow,noindex">CS224d:自然语言处理的深度学习</a> ,另一个斯坦福大学的学者David Socher(MetaMind的创始人)也是一个很好的课程,可以解决与NLP相关的所有最新的深入学习研究。 有关详细信息,请参阅 <a href="/misc/goto?guid=4959754398912633052" rel="nofollow,noindex">如何学习自然语言处理?</a></p> </li>     <li> <p>记忆网络 (RNN-LSTM): 在LSTM中将注意力机制结合在一起的循环神经网络与外部可写内存意味着一些有趣的工作,可以构建能够以问题和回答方式理解,存储和检索信息的系统。 这个研究领域从纽约大学Yann Lecun博士的非死book AI实验室开始。 原始文章是在arxiv: <a href="/misc/goto?guid=4959754398996862506" rel="nofollow,noindex">记忆网络</a> 。 有许多研究变体,数据集,基准等来源于这项工作,例如,Metamind的 <a href="/misc/goto?guid=4959754399076454391" rel="nofollow,noindex">自然语言处理动态内存网络</a></p> </li>     <li> <p>深度加强学习: 由AlphaGo着名,Go-playing系统击败了历史上最强的Go玩家。 David Silver's(Google Deepmind)的 <a href="https://www.nytimes.com/2016/03/16/world/asia/korea-alphago-vs-lee-sedol-go.html?__hsfp=1720600770&__hssc=13887208.1.1473023471844&__hstc=13887208.2c86f1d755a00edda38e8cb1d7fb3483.1473023471841.1473023471841.1473023471844.2" rel="nofollow,noindex">RL视频讲座</a> 和 <a href="/misc/goto?guid=4959754399249979805" rel="nofollow,noindex">Rich Stutton教授的书</a> 是一个很好的开始。 对于LSTM的温柔介绍,请参阅Christopher关于了解 <a href="/misc/goto?guid=4959642620247557394" rel="nofollow,noindex">LSTM网络</a> 和Andrej Karpathy的“ <a href="/misc/goto?guid=4958976191353379572" rel="nofollow,noindex">经典神经网络的不合理有效</a> 性”</p> </li>     <li> <p>生成模型: 虽然歧视性模型试图检测,识别和分离事物,但是他们最终会寻找在基础层面上区分和不理解数据的功能。 除了短期应用之外,生成模型还提供了自动学习自然特征的潜力; 类别或尺寸或其他完全。 在三种常用的生成模型中, <a href="/misc/goto?guid=4959754399388307352" rel="nofollow,noindex">生成对抗网络(GANs)</a> , <a href="/misc/goto?guid=4959754399465136851" rel="nofollow,noindex">变体自动编码器(VAEs)</a> 和 <a href="/misc/goto?guid=4959754399549021119" rel="nofollow,noindex">自回归模型(如PixelRNN)</a> ,GAN最受欢迎。深入阅读:</p>      <ul>       <li> <p><a href="/misc/goto?guid=4959754399388307352" rel="nofollow,noindex">Original GAN paper by Ian Goodfellow</a> 等等.</p> </li>       <li> <p><a href="/misc/goto?guid=4959754399650137231" rel="nofollow,noindex">The Laplacian Adversarial Networks (LAPGAN) Paper (LAPGAN)</a> 这固定了稳定性问题</p> </li>       <li> <p><a href="/misc/goto?guid=4959754399731815668" rel="nofollow,noindex">The Deep Convolutional Generative Adversarial Networks (DCGAN) paper</a> 和 <a href="/misc/goto?guid=4959754399814329745" rel="nofollow,noindex">DCGAN Code</a> 它可以用于在没有任何监督的情况下学习功能的层次结构。 另外,查看 <a href="/misc/goto?guid=4959754399904301913" rel="nofollow,noindex">DCGAN used for Image Superresolution</a></p> </li>      </ul> </li>    </ul>    <p><img src="https://simg.open-open.com/show/8fcce0840e35595e1bff02bfadf7a018.png"></p>    <h2>Step 4: 建立项目</h2>    <p>做是成为专家的关键。 尝试建立一些你感兴趣的、并符合你的技能水平的东西。 以下是一些建议,让您思考:</p>    <ul>     <li> <p>按照传统,首先对 <a href="/misc/goto?guid=4959616969854868915" rel="nofollow,noindex">MNIST数据集</a> 进行分类</p> </li>     <li> <p>在 <a href="/misc/goto?guid=4959754400020145985" rel="nofollow,noindex">ImageNet</a> 上尝试面部检测和分类。 如果你这样做,做 <a href="/misc/goto?guid=4959754400100073825" rel="nofollow,noindex">ImageNet挑战2017</a> 。</p> </li>     <li> <p>使用 <a href="/misc/goto?guid=4959754400181890245" rel="nofollow,noindex">RNN</a> 或 <a href="/misc/goto?guid=4959754400267990360" rel="nofollow,noindex">CNN</a> 进行推ter情感分析</p> </li>     <li> <p>教授神经网络来重现着名画家的艺术风格( <a href="/misc/goto?guid=4959754400356102243" rel="nofollow,noindex">艺术风格的神经算法</a> )</p> </li>     <li> <p><a href="/misc/goto?guid=4958974045620840780" rel="nofollow,noindex">用循环神经网络构成音乐</a></p> </li>     <li> <p><a href="/misc/goto?guid=4959754400466252561" rel="nofollow,noindex">使用深加强学习玩乒乓球</a></p> </li>     <li> <p><a href="/misc/goto?guid=4959754400549283925" rel="nofollow,noindex">神经网络评估自拍</a></p> </li>     <li> <p><a href="/misc/goto?guid=4959754400638311854" rel="nofollow,noindex">彩色黑白图片使用深度学习</a></p> </li>    </ul>    <p>欲了解更多,请查看CS231n <a href="/misc/goto?guid=4959754400730159503" rel="nofollow,noindex">Winter 2017</a> 、 <a href="/misc/goto?guid=4959754400831728531" rel="nofollow,noindex">Winter 2016</a> & <a href="/misc/goto?guid=4959630019126795587" rel="nofollow,noindex">Winter 2015</a> 项目。 还要关注Kaggle和HackerRank的比赛,以获得有趣的东西以及竞争和学习的机会。</p>    <p><img src="https://simg.open-open.com/show/c1e312cc04badadd7a4450805e6a3843.png"></p>    <h2>其他资源</h2>    <p>以下是一些指导,帮助你持续学习</p>    <ul>     <li> <p>阅读一些优秀的博客。 克里斯托弗·奥拉( <a href="/misc/goto?guid=4959754400950650168" rel="nofollow,noindex">Christopher Olah</a> )的博客和安德鲁·卡皮斯( <a href="/misc/goto?guid=4959648858881992314" rel="nofollow,noindex">Andrew Karpathy</a> )的博客都很好地解释了基本概念和最近的突破</p> </li>     <li> <p>在推ter上关注影响力。 以下是几个开始@drfeifei,@ylecun,@karpathy,@AndrewYNg,@Kdnuggets,@OpenAI,@googleresearch。 (见: <a href="/misc/goto?guid=4959754401077429717" rel="nofollow,noindex">谁在推ter上关注机器学习信息?</a> )</p> </li>     <li> <p><a href="/misc/goto?guid=4959622551352744835" rel="nofollow,noindex">Google+深度学习社区</a> ,Yann Lecunn,是与深度学习创新保持联系以及与其他深入学习专业人士和爱好者沟通的好方法。</p> </li>    </ul>    <p>请参阅 <a href="/misc/goto?guid=4959648865572703490" rel="nofollow,noindex">ChristosChristofidis / awesome-deep-learning</a> ,这是一个精心设计的Deep Learning教程,项目和社区,让学习更轻松。</p>    <p><img src="https://simg.open-open.com/show/e6e748dddc45bc80553869f63c279d19.png"></p>    <p>翻译很辛苦,还有一些没有写出来,放在专栏里。 <a href="/misc/goto?guid=4959754401230980124" rel="nofollow,noindex">深度学习入门资源</a></p>    <p>只是介绍一种学习方法,里面的内容你不可能全看</p>    <p>在每一步下,选择一个或两个就足够了</p>    <p>方向很重要</p>    <p> </p>    <p>来自:https://segmentfault.com/a/1190000011044305</p>    <p> </p>