谷歌正式开源Hinton胶囊理论代码，即刻用 TensorFlow 实现吧
jopen 6年前
<p><a href="/misc/goto?guid=4958984127719761301" title="Google"><img alt="谷歌正式开源Hinton胶囊理论代码，即刻用 TensorFlow 实现吧" src="https://simg.open-open.com/show/1398f098be05592a1001a5275df0b684.png" /></a></p> <p>相信大家对于「深度学习教父」Geoffery Hinton 在去年年底发表的胶囊网络还记忆犹新，在论文 Dynamic Routing between Capsules 中，Hinton 团队提出了一种全新的网络结构。为了避免网络结构的杂乱无章，他们提出把关注同一个类别或者同一个属性的神经元打包集合在一起，好像胶囊一样。在神经网络工作时，这些胶囊间的通路形成稀疏激活的树状结构（整个树中只有部分路径上的胶囊被激活）。这样一来，Capsule 也就具有更好的解释性。</p> <p>在实验结果上，CapsNet 在数字识别和健壮性上都取得了不错的效果。详情可以参见<a href="/misc/goto?guid=4959012526627179432">终于盼来了 Hinton 的 Capsule 新论文，它能开启深度神经网络的新时代吗？</a></p> <p>日前，该论文的第一作者 Sara Sabour 在 GitHub 上公布了论文代码，大家可以马上动手实践起来。雷锋网 AI 研习社将教程编译整理如下：</p> <p><strong>所需配置：</strong></p> <ul> <li> <p>TensorFlow (点击 <a href="/misc/goto?guid=4959012526721844894" rel="nofollow">http://www.tensorflow.org</a> 进行安装或升级)</p> </li> <li> <p>NumPy (详情点击 <a href="/misc/goto?guid=4958541272734249107" rel="nofollow">http://www.numpy.org/</a> )</p> </li> <li> <p>GPU</p> </li> </ul> <p><strong>执行 test 程序，来验证安装是否正确，诸如：</strong></p> <blockquote> <p>python layers_test.py</p> </blockquote> <p><strong>快速 MNIST 测试：</strong></p> <ul> <li> <p>下载并提取 MNIST tfrecord 到 $DATA_DIR/ 下：</p> <p><a href="/misc/goto?guid=4959012526844941406" rel="nofollow">https://storage.googleapis.com/capsule_toronto/mnist_data.tar.gz</a></p> </li> <li> <p>下载并提取 MNIST 模型 checkpoint 到 $CKPT_DIR 下：</p> <p><a href="/misc/goto?guid=4959012526935453741" rel="nofollow">https://storage.googleapis.com/capsule_toronto/mnist_checkpoints.tar.gz</a></p> </li> </ul> <blockquote> <p>python experiment.py --data_dir=$DATA_DIR/mnist_data/ --train=false \</p> <p>--summary_dir=/tmp/ --checkpoint=$CKPT_DIR/mnist_checkpoint/model.ckpt-1</p> </blockquote> <p><strong>快速 CIFAR10 ensemble 测试：</strong></p> <ul> <li> <p>下载并提取 cifar10 二进制文件到 $DATA_DIR/ 下：</p> <p><a href="/misc/goto?guid=4959012527025411642" rel="nofollow">https://www.cs.toronto.edu/~kriz/cifar.html</a></p> </li> <li> <p>下载并提取 cifar10 模型 checkpoint 到 $CKPT_DIR 下：</p> <p><a href="/misc/goto?guid=4959012527109311612" rel="nofollow">https://storage.googleapis.com/capsule_toronto/cifar_checkpoints.tar.gz</a></p> </li> <li> <p>将目录（$DATA_DIR）作为 data_dir 来传递：</p> </li> </ul> <blockquote> <p>python experiment.py --data_dir=$DATA_DIR --train=false --dataset=cifar10 \</p> <p>--hparams_override=num_prime_capsules=64,padding=SAME,leaky=true,remake=false \</p> <p>--summary_dir=/tmp/ --checkpoint=$CKPT_DIR/cifar/cifar{}/model.ckpt-600000 \</p> <p>--num_trials=7</p> </blockquote> <p><strong> CIFAR10 训练指令：</strong></p> <blockquote> <p>python experiment.py --data_dir=$DATA_DIR --dataset=cifar10 --max_steps=600000\</p> <p>--hparams_override=num_prime_capsules=64,padding=SAME,leaky=true,remake=false \</p> <p>--summary_dir=/tmp/</p> </blockquote> <p><strong>MNIST full 训练指令：</strong></p> <ul> <li> <p>也可以执行--validate=true as well 在训练-测试集上训练</p> </li> <li> <p>执行 --num_gpus=NUM_GPUS 在多块 GPU 上训练</p> </li> </ul> <blockquote> <p>python experiment.py --data_dir=$DATA_DIR/mnist_data/ --max_steps=300000\</p> <p>--summary_dir=/tmp/attempt0/</p> </blockquote> <p><strong> MNIST baseline 训练指令：</strong></p> <blockquote> <p>python experiment.py --data_dir=$DATA_DIR/mnist_data/ --max_steps=300000\</p> <p>--summary_dir=/tmp/attempt1/ --model=baseline</p> </blockquote> <p>To test on validation during training of the above model:</p> <p><strong>训练如上模型时，在验证集上进行测试（记住，在训练过程中会持续执行指令）：</strong></p> <ul> <li> <p>在训练时执行 --validate=true 也一样</p> </li> <li> <p>可能需要两块 GPU，一块用于训练集，一块用于验证集</p> </li> <li> <p>如果所有的测试都在一台机器上，你需要对训练集、验证集的测试中限制 RAM 消耗。如果不这样，TensorFlow 会在一开始占用所有的 RAM，这样就不能执行其他工作了</p> </li> </ul> <blockquote> <p>python experiment.py --data_dir=$DATA_DIR/mnist_data/ --max_steps=300000\</p> <p>--summary_dir=/tmp/attempt0/ --train=false --validate=true</p> </blockquote> <p>大家可以通过 --num_targets=2 和 --data_dir=$DATA_DIR/multitest_6shifted_mnist.tfrecords@10 在 MultiMNIST 上进行测试或训练，生成 multiMNIST/MNIST 记录的代码在 input_data/mnist/mnist_shift.py 目录下。</p> <p><strong>multiMNIST 测试代码：</strong></p> <blockquote> <p>python mnist_shift.py --data_dir=$DATA_DIR/mnist_data/ --split=test --shift=6 </p> <p>--pad=4 --num_pairs=1000 --max_shard=100000 --multi_targets=true</p> </blockquote> <p>可以通过 --shift=6 --pad=6 来构造 affNIST expanded_mnist</p> <p>论文地址：<a href="/misc/goto?guid=4959012527215912434" rel="nofollow">https://arxiv.org/pdf/1710.09829.pdf</a> </p> <p>GitHub 地址：<a href="/misc/goto?guid=4959012527293045035" rel="nofollow">https://github.com/Sarasra/models/tree/master/research/capsules</a></p> <p>雷锋网 AI 研习社编译整理。</p> <p>来自: <a href="/misc/goto?guid=4959012527391793132" id="link_source2">雷锋网</a></p>