BY Blog

Thinking will not overcome fear but action will.

工具学习-docker

docker工具

前言 Docker:Docker容器不是模拟一个完整的操作系统,而是对进程进行隔离,它所接触的资源都是虚拟的。 镜像是静态模板,类似于类, 容器是镜像的运行实例化对象,并且与其他容器和主机相互隔离,容器都共享主机资源。 Docker Compose: 用于定义和运行多容器应用程序的工具,通过单个 YAML 文件管理所有服务,通过yaml文件【程序】管理多个容器。 Dock...

深度学习

GoogLeNet神经网络

前言 在2014年的ImageNet图像识别挑战赛中,一个名叫GoogLeNet (Szegedy et al., 2015)的网络架构大放异彩。 GoogLeNet吸收了NiN中串联网络的思想,并在此基础上做了改进。 这篇论文的一个重点是解决了什么样大小的卷积核最合适的问题。 卷积核的选择问题:小孩子才做选择题; Inception的卷积核选择和GoogLeNet的框架模型: ...

深度学习

ResNet和DenseNet

前言 何恺明等人提出了残差网络(ResNet) (He et al., 2016)。 残差网络的核心思想是:每个附加层都应该更容易地包含原始函数作为其元素之一。 凭借它,ResNet赢得了2015年ImageNet大规模视觉识别挑战赛。 ResNet沿用了VGG完整的3×3卷积层设计,残差块(residual block)如下图: 其中,1×1是调正通道数和分辨率; ResNet...

深度学习

NIN神经网络

前言 LeNet、AlexNet和VGG都有一个共同的设计模式:通过一系列的卷积层与汇聚层来提取空间结构特征;然后通过全连接层对特征的表征进行处理。 AlexNet和VGG对LeNet的改进主要在于如何扩大和加深这两个模块。 或者,可以想象在这个过程的早期使用全连接层。然而,如果使用了全连接层,可能会完全放弃表征的空间结构。 网络中的网络(NiN)提供了一个非常简单的解决方案:在每个像素...

深度学习

GoogLeNet神经网络

前言 在2014年的ImageNet图像识别挑战赛中,一个名叫GoogLeNet (Szegedy et al., 2015)的网络架构大放异彩。 GoogLeNet吸收了NiN中串联网络的思想,并在此基础上做了改进。 这篇论文的一个重点是解决了什么样大小的卷积核最合适的问题。 卷积核的选择问题:小孩子才做选择题; Inception的卷积核选择和GoogLeNet的框架模型: ...

深度学习

VGG神经网络

前言 2012年,AlexNet横空出世。它首次证明了学习到的特征可以超越手工设计的特征。它一举打破了计算机视觉研究的现状。 AlexNet以很大的优势赢得了当年的ImageNet图像识别挑战赛。 AlexNet与VGG的对比: VGG模型代码: import torch.nn as nn def vgg_block(num_convs, in_channels, ou...

深度学习

线性神经网络

回归问题的建模: \[\hat{y} = W^Tx + b\] ​ 其中,对于单个样本:$x \in \mathcal{R}^{b}, W \in \mathcal{R}^{b}, b\in \mathcal{R}^{1}$,当为多个样本的时候,$X \in \mathcal{R}^{n × b}$,$\hat{y} = XW + b, y \in \mathcal{R}^{n}$。 ...

深度学习

LeNet神经网络

前言 LeNet,它是最早发布的神经神经网络之一。这个模型是由AT&T贝尔实验室的研究员Yann LeCun在1989年提出的(并生成唤醒),目的是识别图像 ( LeCun et al. , 1998 )中的手写数字。 LeCun发表了第一篇通过逆向传播成功训练神经网络的研究,这项工作代表了十多年来神经网络研究开发的成果。 LeNet模型代码: import torch i...

深度学习

Alex神经网络

前言 2012年,AlexNet横空出世。它首次证明了学习到的特征可以超越手工设计的特征。它一举打破了计算机视觉研究的现状。 AlexNet以很大的优势赢得了当年的ImageNet图像识别挑战赛。 LeNet和AlexNet的对比: ​ 机器学习 在2012年前,机器学习【非端到端】的科研流程占据主导,如下所示: 获取数据集。 根据光学、几何学以及偶然的...

工具学习

终端tmux工具

Tmux 是什么? Tmux 是一个终端复用器(terminal multiplexer),主要是为了将窗口和会话解绑,使得窗口和会话为多对多的关系; 安装 # Ubuntu 或 Debian $ sudo apt-get install tmux # CentOS 或 Fedora $ sudo yum install tmux # Mac $ brew install tmux...