导航栏

[登录]

马春杰杰

人工智能学习博客~

[置顶][mcj]pytorch基本函数理解【持续更新】

[mcj]深度学习中全连接层转卷积是怎么转的?

训练阶段用的是crop或者resize到14x14的输入图像,而测试阶段可以接收任意维度,如果使用未经crop的原图作为输入(假设原图比crop或者resize到训练尺度的图像要大),这会带来一个问题:feature map变大了。比方VGG训练阶段用224x224x3的图作为模型输入,经过5组卷积和池化,最后到7x7x512维度,最后经过无论是三个卷积或者三个全连接,维度都会到1x1x4096->1x1x4096->1x1x1000,而使用384x384x3的图做模型输入,到五组卷

[mcj]正则化怎么防止过拟合?为什么会发生过拟合?不讲公式只讲原理!

我们知道,当数据量较小的时候,比较容易产生过拟合,为了防止这种情况的发生,我们一般是有两种思路,一种是随时观察验证集的性能,当性能停止提高的时候,我们就人为的停止训练。另一种是加入正则化方法。当出现过拟合的时候,往往拟合函数的系数会非常大,因为这个拟合函数要顾及所有的点,这就导致拟合函数往往没有那么的“平滑”,如下图:由于产生了过拟合,所以拟合曲线变得非常的“陡峭”,只有这样才能更好的顾及到每一个点,但这很明显不是我们想要的,我们只想要知道哪个是黑天鹅,哪个是白天鹅,不管哪种天鹅,我们知道都是天

[mcj]DO安装BBR魔改版|Ubuntu/Centos安装锐速教程

DO注册地址:https://m.do.co/c/6d84a98058dc通过该链接注册的账户每个人在60天内将获得100美元的信贷,赶紧行动试试吧~因为某些原因,国外的服务器比较慢,因此需要BBR或者锐速进行加速,下面是加速方法:Ubuntu:首先运行下面命令中的一条:wget --no-check-certificate -qO 'BBR.sh' 'https://moeclub.org/attachment/LinuxShel

[mcj]aws服务器开启密码登陆

一般aws是不允许使用密码登陆的,都是用pem密钥登陆,不过我感觉虽然安全了,但是不方便,所以打算改为密码登陆。首先pem登陆之后,先给root账户设置密码sudo passwd root设置密码之后,打开ssh配置文件sudo vi /etc/ssh/sshd_config然后,调整PermitRootLogin参数值为yes,如下图:这样其实就可以了,最后重启一下ssh服务/etc/init.d/ssh restartAWS的centos选用

[mcj]利用DO搭建Shadowsocks服务器搭配IPV6进行校园网免流

DO注册地址:https://m.do.co/c/6d84a98058dc通过该链接注册的账户每个人在60天内将获得100美元的信贷,赶紧行动试试吧~首先申请一个DO账号,然后创建一个Droplets,登陆之后,我们可以选择安装BBR进行加速,安装方法见:[mcj]DO安装BBR魔改版|Ubuntu/Centos安装锐速教程安装BBR之后,安装ss服务,首先安装pip3sudo apt install python3-pip因Shadowsocks作者不再维护pip

[mcj]Ubuntu16.04安装VNCserver并完美配置Gnome桌面

首先ssh登陆远程服务器,不知道怎么连的可以看之前的文章:[mcj]aws服务器开启密码登陆连上之后更新一下aptsudo apt update然后安装桌面环境sudo apt install ubuntu-desktop gnome-panel gnome-settings-daemon metacity nautilus gnome-terminal -y然后我们安装vnc服务器su

[mcj]如何计算卷积过程的计算量?|卷积的计算量/运算量如何计算?

卷积过程如图:对于卷积的时间复杂度来说,即运算量:这里代表了全部的运算量,如果我们想知道一次卷积的运算量,则可以简化为:参数量:对于参数量而言,计算方式为:

[mcj]ubuntu16.04下安装bazel指定版本详细教程

这是ubuntu下面进行安装bazel的,在centos下面类似,貌似更加简单。要注意安装bazel 0.15 的版本。最后bazel version测试是否正常安装。安装流程第1步:安装所需的包第2步:下载Bazel第3步:运行安装程序第4步:设置您的环境安装流程二进制安装程序位于Bazel的GitHub发行页面上。安装程序包含Bazel二进制文件1。还必须安装一些其他库才能使Bazel工作。第1步:安装所需的包首先,安装先决条件:pkg-config,zip,g++,zlib1g-dev,u

[mcj]FinalShell无法连接ssh:Session.connect: java.io.IOException: End of IO Stream Read

今天有台服务器中的某个容器突然无法进行ssh连接,师弟用Xshell连接提示:Connection closing...Socket close.Connection closed by foreign host.Disconnected from remote host(localhost) at xxx我这边用FinalShell测试的,提示:Session.connect:&nbs

[mcj]深度学习卷积神经网络中1*1卷积核的作用详解

这里主要介绍下1*1卷积核的神奇之处核最好的使用范围,在开始之前需要了解下卷积网络的权值共享概念,其中权值共享基本上有两种方法:在同一特征图和不同通道特征图都使用共享权值,这样的卷积参数是最少的,例如上一层为30*30*40,当使用3*3*120的卷积核进行卷积时,卷积参数为:3*3*120个.(卷积跟mlp有区别也有联系一个神经元是平面排列,一个是线性排列)第二种只在同一特征图上使用共享权值,根据上面的例子,则卷积参数为:3*3*40*120.1*1卷积核主要作用:实现跨通道的交互和信息整合(

[mcj]深度学习中的动量(momentum)是什么?

如果把梯度下降法想象成一个小球从山坡到山谷的过程,那么前面几篇文章的小球是这样移动的:从A点开始,计算当前A点的坡度,沿着坡度最大的方向走一段路,停下到B。在B点再看一看周围坡度最大的地方,沿着这个坡度方向走一段路,再停下。确切的来说,这并不像一个球,更像是一个正在下山的盲人,每走一步都要停下来,用拐杖来来探探四周的路,再走一步停下来,周而复始,直到走到山谷。而一个真正的小球要比这聪明多了,从A点滚动到B点的时候,小球带有一定的初速度,在当前初速度下继续加速下降,小球会越滚越快,更快的奔向谷底。

[mcj]创建可迁移式服务器镜像【USE LXD】

如果服务器不稳定的话,我们可以建立容易迁移的服务器镜像,这样当我们想要更换服务器的时候,就可以很方便的进行移动。在这里我们用的是lxd虚拟容器技术,中心思想就是在服务器中安装lxd,然后创建容器并配置网络,以后所有的网站就在容器中进行,如果以后想要更换服务器的时候,只需要将容器迁移到新的服务器中即可。首先安装lxd3.xroot@ubuntu:~# lxc version Client version: 3.0.3 Server versio

[mcj]pytorch中LSTM的输入输出解释||LSTM输入输出详解

最近想了解一些关于LSTM的相关知识,在进行代码测试的时候,有个地方一直比较疑惑,关于LSTM的输入和输出问题。一直不清楚在pytorch里面该如何定义LSTM的输入和输出。首先看个pytorch官方的例子:# 首先导入LSTM需要的相关模块 import torch import torch.nn as nn           &

[mcj]CNN中卷积核的卷积方式详解|CNN中卷积核是如何进行卷积的?

开局先祭出一张大神图:比如我们有一张5*5*3的图作为输入,卷积核的尺寸为3*3,则卷积核的输入深度为3,这里的3对应着输入的3通道,卷积核的数量为2,则卷积核的参数应为:(3*3*3)*2。卷积过程为,首先因为输入图像有3层,所以卷积核也有3层,这三层卷积核分别对应输入图像的每一层,然后卷的时候这三层同时卷积,卷完之后将得到的三层feature map直接相加为一层,这就是一个卷积核所做的事情。由于我们卷积核的数量为2,所以会再次进行这个操作,又得到一层,这样经过两个卷积核卷积之后,会得到两个
‹‹ 1 2 3 4 5 6 7 ››