气象预报、石油勘探、核子物理等现代科学技术大多依赖计算机的计算模拟,模拟计算的核心是表示状态转移的矩阵计算。另一方面,计算机图...
长期短期记忆(LSTM)是一种特别适用于时间序列数据(或具有时间 / 空间 / 结构顺序的数据,例如电影、句子等)的深度学习模型,是预测...
QNNPACK是facebook在2018年底推出的面向mobile AI的高性能开源加速库,可以在手机端提供2倍以上的性能提升。QNNPACK不但对传统的卷积有...
符号定义:用 s 表示尺寸(size),用 c 表示通道数/维数(channel),用 i 、k、o 分别表示输入图像(input)、卷积核(kernel)、输出...
这篇文档非常长所以我们会分成5篇来连载,因为机器学习并不是纯软件开发,简单地调用库函数 API,需要有一定的理论支撑,如果完全不介绍...
哈维尔·费尔南德斯·马克斯(Javier Fernandez-Marques)最近在Arm ML研究实验室完成了与英国剑桥和美国波士顿的机器学习团队合作。在他...
池化层(Pooling),常见的有AvgPooling和MaxPooling,我们这里仅对2D的Pooling进行讨论。其实还是走的三板斧套路,首先我们先看一下Avg...
上一篇文章跟大家介绍了卷积Op的求导过程,熟悉卷积的同学不难发现,conv2d实际上是对input feature进行spatial空间的采样(sliding-win...
目前主流的CNN训练框架,如pytorch、mxnet、tensorflow2.0中都已经集成了autograd的机制,自动求导的机制相较于传统训练框架如caffe、te...
前面的一篇原理简述的文章中,给大家简单介绍了神经网络前(后)传播的有向图、反向传播的计算和更新。这篇文章跟大家简单讨论一下神经...
什么是统计?:不知道袋子里面多少球,现在从袋子取5次球。发现4次是红,1次是白。然后我们估计这个袋子红白比例可能是4:1。这就是统计...
选一个简单的话题跟大家讨论---神经网络的简述。主要想跟大家介绍神经网络图的前传(后传)的流程图、反向传播的公式及更新过程,下面是...
在本文中先破除大家对神经元的一些误解和心理障碍。并手工写一个神经元。 《神经网络实战》系列专栏持续更新介绍神经元怎么工作,最后使...
目标检测中最经典的损失函数就是Faster RCNN所用的“softmax交叉熵分类损失 + SmoothL1回归损失”的形式,后来有很多改进的目标检测网络、...
论文:《Squeeze-and-Excitation Networks (CVPR2018)》提出了SE模块,是注意力机制的一种应用,学习特征图上通道间的相关性,作为权重R...
任何机器学习都是假定一种数学模型可以用于当前这个数据解决问题 。而任何数学模型都有参数,其中不同数据参数的取值是不一样的。那么我...
大多数时候,人们使用不同的深度学习框架和标准开发工具箱。(SDKs),用于实施深度学习方法,具体如下:
今天我们给大家介绍的是CNN中一个重要的组成模块---池化层,也叫pooling。我们本文跟大家一起讨论如何一步一步的实现平均池化层。大家在...
之前我们介绍过CNN inference框架的基本结构,如何从tensorflow的graph中提取conv2d的权重,随后利用该权重进行对应的卷积操作。本文我...
卷积是CNN网络中一个非常重要的操作(Operation或Op),关于卷积的数学原理,大家可以参考维基百科:Convolution。但是我们这里给大家介绍...