a blog driven by interest～
级联CNN提出与2015年，在目标检测领域有着很成功的应用。好久好久好久没看过目标检测了，今天被问到这个，临时翻论文到源码，发现还是很容易理解的。只是好久好久好久没玩Caffe，发现Caffe现在丰富了太多。这篇博客介绍的MTCNN人脸检测，就是基于Caffe平台的，与级联CNN有关，清楚所有技术细节之后，决定写一篇博客记录一下。
FCN语义分割算法已经在很多主流深度学习平台上实现了，包括Caffe、TenserFlow、MatConvNet等。这篇博客主要介绍如何在MatConvNet上运行起FCN语义分割，包括CPU和GPU版本。博主的平台是Matlab2017a+Cuda8.0。
刚有一个idea，用语义分割来做图像跟踪，搜了一下发现已经有人做过了，细细的看了下Paper，和自己相当还不一样。FCN是深度学习语义分割的鼻祖，而这片Paper的名字叫做FCNT，看了之后发现我误会了，此FCN非彼FCN，由于是比较早的算法了，性能和MEEM处于同一层次，不过考虑到这是深度学习方法用于跟踪的重要实践，还是做个笔记好了。
博主认为图像跟踪过程的本质就是语义的跟踪（我是这么理解的），所以，使用语义分割来完成图像跟踪是自然而然想到的。事实上深度学习用于图像跟踪，也就是利用了其深层特征中的语义信息。这篇博客就主要介绍这篇文献：Visual Tracking with Fully Convolutional Networks。
图像跟踪一直都是计算机视觉领域的难题，事先知道第一帧中的目标位置，然后需要在后续帧中找到目标。先验知识少，目标被遮挡、目标消失、运动模糊、目标和环境的剧烈变化、目标的高速运动、相机的抖动都会对目标跟踪造成影响，图像跟踪一直都是CV领域的难题。
深度学习用于图像跟踪有两大要解决的问题，一是图像跟踪一般使用在线学习，很难提供大量样本集，二是深度学习使用CNN时，由于卷积池化，最后一层的输出丢失了位置信息，而图像跟踪就是要输出目标的位置。
2013年以来，深度学习开始用于目标跟踪，并且为这些问题提供了一些解决思路。这篇博客首先阐述图像跟踪今年来的研究进展，然后再介绍深度学习用于图像跟踪近年来的研究，最后附上一些学习资料和相关网站。
MatConvNet是一个基于Matlab的深度学习框架，在计算部分，最底层混编了C/C++或者CUDA C，这使得其速度并不是特别慢。就使用体验来说，MatConvNet是非常优秀的，借助于Matlab，定义网络，使用现有模型以及数据可视化都非常方便。
由于MatConvNet文档和Demo都比较完备，所以这篇博客主要介绍一些GPU的配置细节。
TensorFlow的基本数据单元是tensor（张量），如何讲tensor的值取出，又如何在运算过程中向tensor中传入值呢？Fetch与Feed是TensorFlow中关于数据存取的术语，博主就由代码来简要介绍下Fetch与Feed。
TensorFlow使用图来表示计算任务，图中的节点被称之为op(operation的缩写)。TensorFlow程序通常被组织成一个构建阶段，和一个执行阶段。在构建阶段，op的执行步骤被描述成一个图。在执行阶段，使用会话执行图中的op（op就是节点）。简单的说，先给出描述，只在run()方法中执行操作。
SyntaxNet由TensorFlow实现，本月Google正式开源了这一框架（GitHub），关于这一框架，我们可以参考相关论文。在准备完NPL的基础知识后，博主将在这篇博客介绍这篇论文：Global Normalized Transition-Based Neural Network。该架构的资料还来自谷歌研究博客。
今年是DeepLearning诞生十周年，这项技术已相对成熟。这个月，有两本史诗级教科书出炉，这十年的成果做了教科书式的总结，上周MIT的deeplearning教科书定稿，由Ian Goodfellow、Yoshua Bengio、Aaron Courvilla主编，几乎所有深度学习大牛参与其中。初学者学习Deep Learning四处搜集资料和Paper，四处修补知识体系的过程行将成为历史，博主将长期更新博客，对这本书的要点进行阐述。
随着深度学习的兴起，诞生了许多优秀的深度学习框架，借助深度学习框架完成理论研究、实验和深度学习开发已成为深度学习研究的重要手段。深度学习框架加快了研究的速度，并且使得一般的深度学习研究者也可以轻松设计自己的深度神经网络。由于深度学习框架灵活、多样、高性能、分布式等特点，当前的许多深度学习技术都是基于深度学习框架进行开发的。这篇博客主要介绍TensorFlow、Torch、Theano、Caffe四种深度学习开源框架的特点。
深度学习的概念源于人工神经网络的研究。含多隐层的多层感知机就是一种深度学习结构。深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征，以发现数据的分布式特征表示。
目标识别、目标检测、目标分割、目标跟踪是计算机视觉领域最热门的方向之一。传统机器学习方法中较为常见的做法是在滑动窗口中手工提取特征（例如Hog、SIFT等），然后将提取的特征送入分类器（例如SVM、Adaboost等）中，训练分类器预测输出。而每一类物体都有不同的特征，我们也很难提前知道哪种特征更加优秀，于是近年来目标识别的研究方向转向了深度学习。
目标识别（检测）问题与分类问题不同，识别或检测要求精准定位目标。一种解决问题的思路是将其看作一个回归问题，这种思路解决问题的效果可能并不理想，另一种更为普遍的做法还是使用滑动窗口进行检测。
博客正式进入caffe源码精读系列，博主会在阅读源码的过程中将自己认为重要的部分记录下来，整理成笔记。由于博主之前粗略浏览过一遍源码，对caffe的架构和caffe中使用的库有了了解，这些笔记介绍整体工作流程和框架的同时，还将偏重于源码的细节。第一篇博客主要由程序入口开始介绍caffe训练的流程。
在机器学习中，有两个很重要的概念，bias and variance，根据学习曲线判断当前的状态是high bias还是high variance来调整机器学习中的参数，以达到理想的效果。多年前学习斯坦福机器学习教程时对这两个概念的影响尤为深刻，鉴于这两个概念又是如此重要，特此整理。
