目录
1、深度学习
机器学习的分支。人工神经网络为基础,对数据的特征进行学习的方法。
2、机器学习和深度学习的区别:
【特征抽取】:
【数据量】:
3、深度学习应用场景:
4、深度学习框架:pytorch
又称为人工神经网络ANN(Artificial Netural Network)。简称神经网络(NN)或类神经网络。模拟生物的神经系统,对函数进行估计或近似。
概念:神经网络中的基础单元,相互连接,组成神经网络。
其中:
①a1、a2... an为各个输入的分量。
②w1、w2...wn为各个输入分量对应的权重参数。
③b为偏置
④f为激活函数。常见的激活函数有tanh、sigmoid、relu
⑤t为神经元的输出。
使用数学公式表示: 其中: 表示W的转置
对公式的理解:输出 = 激活函数( 权重*输入求和 + 偏置)
可见:一个神经元的功能是求得输入向量与权向量的内积后,经一个非线性传递函数得到一个标量结果。
最简单的神经网络的形式。
全连接层:当前层和前一层每个神经元相互连接,我们称当前这一层为全连接层。
即:第N层和第N-1层中的神经元两两之间都有连接。
作用:
相对于饱和激活函数,使用非饱和激活函数的优势在于:
数学表达式为:
求导:
结果:输出值范围为(0,1)之间的实数。
数学表达式为:
实际上,Tanh函数是 sigmoid 的变形:
tanh是“零为中心”的。
结果:输出值范围为(-1,1)之间的实数。
数学表达式为:
使用场景:
缺点:
与Sigmoid一样,其输出不是以0为中心的
数学表达式为:
什么情况下适合使用Leaky ReLU?
数学表达式为:
各种数值数据称为张量。
0阶张量:常数 scaler
1阶张量:向量vector
2阶张量:矩阵matrix
3阶张量:...
打开jupyter,使用命令jupyter notebook
(1)使用python中的列表或者序列创建tensor
(2)使用numpy中的数组创建tensor
(3)使用torcch的api创建tensor
①torch.empty(3,4) 创建3行4列的空的tensor,会用无用数据进行填充。
②torch.ones(3,4) 创建3行4列的全为1 的tensor
③torch.zeros(3,4) 创建3行4列的全为0的tensor
④torch.rand(3,4) 创建3行4列的随机值的tensor,随机值的区间是[0,1)
⑤torch.randint( low = 0,high = 10, size = [3,4]) 创建3行4列的随机整数的tensor,随机值的区间是[ low,high)
⑥torch.randn([3,4]) 创建3行4列的随机数的tensor ,随机值的分布均值为0,方差为1
(这里的randn ,n表示normal)
(1)获取tensor中的数据(当tensor中只有一个元素可用):tensor.item( )
(2)转化为numpy数组
(3)获取形状:tensor.size()
tensor.size(0) 获取第一个维度的形状
(4)形状改变:tensor.view((3,4)) 。类似numpy中的reshape,是一种浅拷贝,仅仅是形状发生改变。
(5)获取维数:tensor.dim()
(6)获取最大值:tensor.max()
(7)转置:tensor.t() 二维
高维:tensor.transpose(1,2) 将第一维度和第二维度交换、tensor.permute(0,2,1)
(8)获取tensor[1,3] 获取tensor中第一行第三列的值。(行和列的索引都是从0开始)
(9)tensor[1,3] 对tensor中第一行,第散列的位置进行赋值。
(10)tensor切片:
图片所示,取了第一列。
(1)获取tensor 的数据类型:tensor.dtype
(2)创建数据的时候指定类型
(3)类型的修改
x.add(y) 不会直接修改x的值。
x.add_(y) 会直接修改x的值。️
通过.to 方法能够把一个tensor转移到另外一个设备(比如从CPU转到GPU)
# 实例化device
device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')
# 把tensor转化为CUDA支持的tensor,或者cpu支持的tensor
tensor.to(device)
概念:梯度是一个向量,导数+变化最快的方向(学习的前进方向)
回顾下机器学习:
① 收集数据x,构建机器学习模型f,得到f(x,w) = Ypredict
②判断模型好坏的方法:
loss = (Ypredict - Ytrue)^2 ( 回归损失)
loss = Ytrue · log(Yredict) (分类损失)
③目标:通过调整(学习)参数w,尽可能的降低loss。
算出梯度、
链式法则、求偏导数、
(1)前向传播:将训练集数据输入到ANN的输入层,经过隐藏层,最后到达输出层并输出结果。【输入层—隐藏层–输出层】
(2)反向传播:由于ANN的输入结果与输出结果有误差,则计算估计值与实际值之间的误差,并将该误差从输出层向隐藏层反向传播,直至传播到输入层。【输出层–隐藏层–输入层】
(3)权重更新:在反向传播的过程中,根据误差调整各种参数的值;不断迭代上述过程,直至收敛。
(1)tensor(data, requires_grad = True)
① 该tensor后续会被计算梯度、tensor所有的操作都会被记录在grade_in
② 当requires_grad = True时,tensor.data 和 tensor不相同。否则,得到是相同的结果。
(2)with torch.no_grad()
其中的操作不会被跟踪
(3)反向传播:output.backward()
(4)获取某个参数的梯度:x.grad 累加梯度,每次反向传播之前需要先把梯度置为0之后。
假设基础模型y=wx+b , 其中w和b均为参数,我们使用y = 3x+0.8 来构造数据x,y,所以最后通过模型应该能够得出w和b应该分别接近3和0.8。
(1)准备数据(2)计算预测值
(3)计算损失,把参数的梯度置为0,进行反向传播(4)更新参数
import torch
import matplotlib.pyplot as plt
learning_rate = 0.01 # 定义一个学习率
# 1、准备数据
"""
y = wx + b
y = 3x + 0.8
"""
x = torch.rand([100, 1])
y_true = x*3 + 0.8
# 2、通过模型计算 y_project
w = torch.rand([1, 1], requires_grad=True)
b = torch.tensor(0, requires_grad=True, dtype=torch.float32)
# 4、通过循环,反向传播,更新参数
for i in range(500):
# 3、计算loss
y_predict = torch.matmul(x, w) + b
loss = (y_true - y_predict).pow(2).mean() # 平方,再均值
if w.grad is not None: # 将梯度置为0
w.grad.data.zero_()
if b.grad is not None:
b.grad.data.zero_()
loss.backward() # 反向传播
w.data = w.data - learning_rate * w.grad
b.data = b.data - learning_rate * b.grad
print(f"w:{w.item()},b:{b.item()},loss:{loss.item()}")
# 画图
plt.figure(figsize=(20, 8))
plt.scatter(x.numpy().reshape(-1), y_true.numpy().reshape(-1))
y_predict = torch.matmul(x, w) + b
plt.plot(x.numpy().reshape(-1), y_predict.detach().reshape(-1), c='r')
plt.show()
nn.Module 是torch.nn提供的一个类,是pytorch 中我们自定义网络的一个基类,在这个类中定义了很多有用的方法,让我们在继承这个类定义网络的时候非常简单。
文章浏览阅读290次,点赞8次,收藏10次。1.背景介绍稀疏编码是一种用于处理稀疏数据的编码技术,其主要应用于信息传输、存储和处理等领域。稀疏数据是指数据中大部分元素为零或近似于零的数据,例如文本、图像、音频、视频等。稀疏编码的核心思想是将稀疏数据表示为非零元素和它们对应的位置信息,从而减少存储空间和计算复杂度。稀疏编码的研究起源于1990年代,随着大数据时代的到来,稀疏编码技术的应用范围和影响力不断扩大。目前,稀疏编码已经成为计算...
文章浏览阅读217次。EasyGBS - GB28181 国标方案安装使用文档下载安装包下载,正式使用需商业授权, 功能一致在线演示在线API架构图EasySIPCMSSIP 中心信令服务, 单节点, 自带一个 Redis Server, 随 EasySIPCMS 自启动, 不需要手动运行EasySIPSMSSIP 流媒体服务, 根..._easygbs-windows-2.6.0-23042316使用文档
文章浏览阅读1.2k次,点赞27次,收藏7次。2023巅峰极客 BabyURL之前AliyunCTF Bypassit I这题考查了这样一条链子:其实就是Jackson的原生反序列化利用今天复现的这题也是大同小异,一起来整一下。_原生jackson 反序列化链子
文章浏览阅读734次,点赞9次,收藏7次。微服务架构简单的说就是将单体应用进一步拆分,拆分成更小的服务,每个服务都是一个可以独立运行的项目。这么多小服务,如何管理他们?(服务治理 注册中心[服务注册 发现 剔除])这么多小服务,他们之间如何通讯?这么多小服务,客户端怎么访问他们?(网关)这么多小服务,一旦出现问题了,应该如何自处理?(容错)这么多小服务,一旦出现问题了,应该如何排错?(链路追踪)对于上面的问题,是任何一个微服务设计者都不能绕过去的,因此大部分的微服务产品都针对每一个问题提供了相应的组件来解决它们。_spring cloud
文章浏览阅读5.9k次,点赞6次,收藏20次。Js实现图片点击切换与轮播图片点击切换<!DOCTYPE html><html> <head> <meta charset="UTF-8"> <title></title> <script type="text/ja..._点击图片进行轮播图切换
文章浏览阅读10w+次,点赞245次,收藏1.5k次。在开始安装前,如果你的电脑装过tensorflow,请先把他们卸载干净,包括依赖的包(tensorflow-estimator、tensorboard、tensorflow、keras-applications、keras-preprocessing),不然后续安装了tensorflow-gpu可能会出现找不到cuda的问题。cuda、cudnn。..._tensorflow gpu版本安装
文章浏览阅读243次。0x00 简介权限滥用漏洞一般归类于逻辑问题,是指服务端功能开放过多或权限限制不严格,导致攻击者可以通过直接或间接调用的方式达到攻击效果。随着物联网时代的到来,这种漏洞已经屡见不鲜,各种漏洞组合利用也是千奇百怪、五花八门,这里总结漏洞是为了更好地应对和预防,如有不妥之处还请业内人士多多指教。0x01 背景2014年4月,在比特币飞涨的时代某网站曾经..._使用物联网漏洞的使用者
文章浏览阅读786次。A. Epipolar geometry and triangulationThe epipolar geometry mainly adopts the feature point method, such as SIFT, SURF and ORB, etc. to obtain the feature points corresponding to two frames of images. As shown in Figure 1, let the first image be and th_normalized plane coordinates
文章浏览阅读708次,点赞2次,收藏3次。开放信息抽取(OIE)系统(三)-- 第二代开放信息抽取系统(人工规则, rule-based, 先关系再实体)一.第二代开放信息抽取系统背景 第一代开放信息抽取系统(Open Information Extraction, OIE, learning-based, 自学习, 先抽取实体)通常抽取大量冗余信息,为了消除这些冗余信息,诞生了第二代开放信息抽取系统。二.第二代开放信息抽取系统历史第二代开放信息抽取系统着眼于解决第一代系统的三大问题: 大量非信息性提取(即省略关键信息的提取)、_语义角色增强的关系抽取
文章浏览阅读1.1w次,点赞6次,收藏51次。快速完成网页设计,10个顶尖响应式HTML5网页模板助你一臂之力为了寻找一个优质的网页模板,网页设计师和开发者往往可能会花上大半天的时间。不过幸运的是,现在的网页设计师和开发人员已经开始共享HTML5,Bootstrap和CSS3中的免费网页模板资源。鉴于网站模板的灵活性和强大的功能,现在广大设计师和开发者对html5网站的实际需求日益增长。为了造福大众,Mockplus的小伙伴整理了2018年最..._html欢迎页面
文章浏览阅读282次。原标题:2018全国计算机等级考试调整,一、二级都增加了考试科目全国计算机等级考试将于9月15-17日举行。在备考的最后冲刺阶段,小编为大家整理了今年新公布的全国计算机等级考试调整方案,希望对备考的小伙伴有所帮助,快随小编往下看吧!从2018年3月开始,全国计算机等级考试实施2018版考试大纲,并按新体系开考各个考试级别。具体调整内容如下:一、考试级别及科目1.一级新增“网络安全素质教育”科目(代..._计算机二级增报科目什么意思
文章浏览阅读240次。conan简单使用。_apt install conan