• 并行运算,Facebook提出门控卷积神经网络的语言建模

     发表于 3 周 前

    目前语言建模的主要方法都是基于循环神经网络的。在本研究中,我们提出了一种使用卷积方式处理的语言建模方式。我们引入了一种新的门控机制,可以缓和梯度传播,它的表现比 LSTM 方式的门...

  • 神经网络理论基础及Python实现

     发表于 1 个月 前

    多层前向神经网络由三部分组成:输出层、隐藏层、输出层,每层由单元组成;...

  • 阿里开源组件化方案 - BeeHive

     发表于 1 个月 前

    BeeHive 是用于 iOS 的 App 模块化编程的框架实现方案,吸收了 Spring 框架 Service 的理念来实现模块间的 API 耦合。...

  • 使用 TensorFlow 实现神经网络的简介

     发表于 1 个月 前

    神经网络是一种特殊类型的机器学习(ML)算法。 因此,作为每个 ML 算法,它遵循数据预处理,模型建立和模型评估的通常 ML 工作流。 ...

  • 微软重磅论文提出LightRNN:高效利用内存和计算的循环神经网络

     发表于 2 个月 前

    循环神经网络(RNN)已经在许多自然语言处理任务上取得了最出色的表现,比如语言建模和机器翻译。然而当词汇量很大时,RNN 模型会变得很大(可能超过 GPU 最大的内存能力),这样训...

  • 神经网络的直观解释

     发表于 2 个月 前

    卷积神经网络(ConvNets 或者 CNNs)属于神经网络的范畴,已经在诸如图像识别和分类的领域证明了其高效的能力。卷积神经网络可以成功识别人脸、物体和交通信号,从而为机器人和自...

  • 神经网络硬科普,非专业出身的福利

     发表于 3 个月 前

    最近“神经网络”非常火,各种关于神经网络的文章满天飞,但可能对于非专业领域出身的人来说接触这些文章就会云里雾里了。究其原因主要是缺少适合大部分人理解的神经网络的科普文章,笔者希望能...

  • 神经网络的 BP 算法学习

     发表于 3 个月 前

    在BP过程中,最重要的事情就是维护梯度回传的先后顺序。在TensorFlow中,每个tensor就表示了一个函数节点,tensor之间的运算,例如mat、add这些都会生成新的te...

  • 神经网络中的权重初始化:Why and How

     发表于 3 个月 前

    在创建了神经网络后,通常需要对权重和偏置进行初始化,大部分的实现都是采取Gaussian distribution来生成随机初始值。...

  • 图文并茂的神经网络架构大盘点:从基本原理到衍生关系

     发表于 4 个月 前

    新的神经网络架构随时随地都在出现,要时刻保持最新还有点难度。...

  • 神经网络架构演进史:全面回顾从LeNet5到ENet十余种架构

     发表于 4 个月 前

    LeNet5 诞生于 1994 年,是最早的卷积神经网络之一,并且推动了深度学习领域的发展。自从 1988 年开始,在许多次成功的迭代后,这项由 Yann LeCun 完成的开拓性...

  • SparkNET: 用Spark训练深度神经网络

     发表于 8 个月 前

    练深度神经网络是一个非常耗时的过程,比如用卷积神经网络去训练一个目标识别任务需要好几天来训练。因此,充分利用集群的资源,加快训练速度成了一个非常重要的领域。不过,当前非常热门的批处...

  • 使用TensorFlow在浏览器中实现神经网络

     发表于 9 个月 前

    神经网络技术是通过计算机程序来从数据中学习,它是基于人类大脑学习的过程建立的。首先,创建神经元,然后链接在一起,互相发送消息;其次,网络是用来解决问题的,每次加强通往成功的链接,减...

  • 神经网络模型随机梯度下降法—简单实现与Torch应用

     发表于 10 个月 前

    本文以及后续关于 Torch 应用及机器学习相关的笔记文章,均基于 牛津大学2015机器学习课程 ,课件和视频可从 官网 下载。本文主要关于神经网络模型中的随机梯度下降法,介绍其原...

  • AlexNet论文:ImageNet Classification with Deep Convolutional Neural Networks

     发表于 10 个月 前

    我们训练了一个大型的深度卷积神经网络,来将在ImageNet LSVRC-2010大赛中的120万张高清图像分为1000个不同的类别。对测试数据,我们得到了top-1误差率37.5...

  • 【Caffe实践】Caffe安装

     发表于 11 个月 前

    最近实验室要把一部分方向转为深度学习这一方向,而且电脑也配好了,研一的课程也结束了,赶紧抓紧时间把开发环境给弄好。...

  • 【深度学习笔记】深度学习用于图片的分类和检测总结

     发表于 11 个月 前

    前言: 主要总结一下自己最近看文章和代码的心得。 1. CNN用于分类:具体的过程大家都知道,无非是卷积,下采样,激活函数,全连接等。CNN用于分类要求它的输入图片的大小是固定的...

  • 【机器学习】逻辑回归原理及其实现

     发表于 11 个月 前

    逻辑回归:首先,它不是一个回归模型,而是一个分类模型,它是被用来做分类的。 之所以称之为回归,是因为它的学习的是模型模型的参数以最佳拟合已有的数据。(比如,根据已有的一些点,回归出...

  • 【机器学习实践】Kaggle 之 Face Verification Challenge练手

     发表于 11 个月 前

    作为第一次做Kaggle的比赛,来练练手还是不错的。...