简介：蒙特卡洛树搜索又称随机抽样或统计试验方法，属于计算数学的一个分支，它是在上世纪四十年代中期为了适应当时原子能事业的发展而发展起来的。传统的经验方法由于不能逼近真实的物理过程，很难得到满意的结果，而蒙特卡洛树搜索方法由于能够真实地模拟实际物理过程，故解决问题与实际非常符合，可以得到很圆满的结果。...
简介：蒙特卡罗方法又称统计模拟法、随机抽样技术，是一种随机模拟方法，以概率和统计理论方法为基础的一种计算方法，是使用随机数（或更常见的伪随机数）来解决很多计算问题的方法。将所求解的问题同一定的概率模型相联系，用电子计算机实现统计模拟或抽样，以获得问题的近似解。为象征性地表明这一方法的概率统计特征，故...
简介：A*（A-Star)算法是一种静态路网中求解最短路径最有效的直接搜索方法，也是解决许多搜索问题的有效算法。算法中的距离估算值与实际值越接近，最终搜索速度越快。基本原理：公式表示为： f*(n)=g*(n)+h*(n),其中， f*(n) 是从初始状态经由状态n到目标状态的最小代价估计，g*(n...
简介：在马尔可夫模型中，每个状态代表了一个可观察的事件，所以，马尔可夫模型有时又称作可视马尔可夫模型（visible Markov model，VMM），这在某种程度上限制了模型的适应性。在隐马尔可夫模型（HMM）中，我们不知道模型具体的状态序列，只知道状态转移的概率，即模型的状态转换过程是不可观察...
简介：马尔可夫模型是一个很大的概念，从模型的定义和性质来看，具有马尔可夫性质、并以随机过程为基础模型的随机过程/随机模型被统称为马尔可夫模型。基本原理：若随机过程满足马尔可夫性，则称为马尔可夫过程。在该模型中，存在两个假设：（1）随机过程满足马尔可夫性性；（2）状态转换矩阵不随时间的变化而变化。主要...
简介：Transformer中抛弃了传统的CNN和RNN，整个网络结构完全是由Attention机制组成。更准确地讲，Transformer由且仅由self-Attenion和Feed Forward Neural Network组成。一个基于Transformer的可训练的神经网络可以通过堆叠Tr...
简介：MTCNN主要由三个框架组成，分别是PNet，RNet，ONet。基本原理：Proposal Network (P-Net)：该网络结构主要获得了人脸区域的候选窗口和边界框的回归向量。并用该边界框做回归，对候选窗口进行校准，然后通过非极大值抑制（NMS）来合并高度重叠的候选框。Refine N...
简介：残差网络是由来自Microsoft Research的4位学者提出的卷积神经网络，在2015年的ImageNet大规模视觉识别竞赛（ImageNet Large Scale Visual Recognition Challenge, ILSVRC）中获得了图像分类和物体识别的优胜。 残差网络的...
简介：YOLO为一种新的目标检测方法，该方法的特点是实现快速检测的同时还达到较高的准确率。作者将目标检测任务看作目标区域预测和类别预测的回归问题。该方法采用单个神经网络直接预测物品边界和类别概率，实现端到端的物品检测。基本原理：模型采用卷积神经网络结构。开始的卷积层提取图像特征，全连接层预测输出概率...
简介：自组织映射(Self-Organizing Maps, SOM)算法作为一种聚类和高维可视化的无监督学习算法, 是通过模拟人脑对信号处理的特点而发展起来的一种人工神经网络。基本原理：SOM网络结构如图所示,它由输入层和竞争层(输出层)组成。输入层神经元数为 n,竞争层由m 个神经元组成的一维或...
简介：生成式对抗网络（GAN, Generative Adversarial Networks ）是一种深度学习模型，是近年来复杂分布上无监督学习最具前景的方法之一。模型通过框架中（至少）两个模块：生成模型（Generative Model）和判别模型（Discriminative Model）的互...
简介：长短期记忆（long short-term memory,LSTM）是一种特殊的RNN，主要是为了解决长序列训练过程中的梯度消失和梯度爆炸问题。简单来说就是比普通RNN在更长的序列中有更好的表现。基本原理：LSTM是一种特殊的RNN，主要通过三个门控逻辑实现(遗忘、输入、输出)。包含三个阶段：...
简介：循环神经网络（Recurrent Neural Network, RNN）是一类以序列（sequence）数据为输入，在序列的演进方向进行递归（recursion）且所有节点（循环单元）按链式连接的递归神经网络（recursive neural network）。基本原理：传统神经网络的结构比...
简介：卷积神经网络（Convolutional Neural Network, CNN）是一种前馈神经网络，它的人工神经元可以响应一部分覆盖范围内的周围单元，对于大型图像处理有出色表现。 卷积神经网络由一个或多个卷积层和顶端的全连通层（对应经典的神经网络）组成，同时也包括关联权重和池化层（pooli...
简介： 混沌神经网络是由于神经网络是高度非线性动力学系统，而混沌又具有上述的特性，因此神经网络与混沌密切相关，所以混沌神经网络被认为是可实现其真实世界计算的智能信息处理系统之一。广泛研究的混沌神经网络模型是在Hopfield神经网络中引入了一个具有混沌特性的负反馈项，进而得到了混沌神经网络模型，因此...
简介：反馈型神经网络(recurrent networks)是一种从输出到输入具有反馈连接的神经网络，其结构比前馈网络要复杂得多。典型的反馈型神经网络有Elman网络和Hopfield网络。Elman网络是两层反向传播网络，隐层和输入向量连接的神经元，其输出不仅作为输出层的输入，而且还连接隐层内的另...
简介：BP（Back Propagation）网络是1986年由Rumelhart和McClelland为首的科学家小组提出，是一种按误差逆传播算法训练的多层前馈网络，是应用最广泛的神经网络模型之一。BP网络能学习和存贮大量的输入-输出模式映射关系，而无需事前揭示描述这种映射关系的数学方程。它的学习...
简介：PCA（principle component analysis），即主成分分析法，是一个非监督的机器学习算法，是一种用于探索高维数据结构的技术，主要用于对数据的降维，通过降维可以发现更便于人理解的特征，加快对样本有价值信息的处理速度，此外还可以应用于可视化（降到二维）和去噪。基本原理：数据从...
简介：K均值聚类算法(k-means clustering algorithm)是一种迭代求解的聚类分析算法，是非监督学习算法的一种，其算法思想大致为：先从样本集中随机选取K个样本作为簇中心，并计算所有样本与这k个"簇中心"的距离，对于每一个样本，将其划分到与其距离最近的"簇中心"所在的簇中，对于新...
简介：层次聚类算法 （Hierarchical Clustering Method）又称为系统聚类法、分级聚类法。层次聚类算法又分为两种形式：（1）凝聚层次聚类：首先将每个对象作为一个簇，然后合并这些原子簇为越来越大的簇，直到某个终结条件被满足。（2）分裂层次聚类：首先将所有对象置于一个簇中，然后逐...