pytorch的卷积层池化层和非线性变化 和机器学习线性回归

2023-09-20 21:22:49

卷积层:

 两个输出的情况 就会有两个通道 可以改变通道数的

最简单的神经网络结构:

nn.Mudule就是继承父类

super执行的是 先执行父类函数里面的

forward执行的就是前向网络,就是往前推进的,当然也有反向转播,那就是用来就gradient dicent了,求导计算了。

卷积后的结果展示:

这里有个小细节

224 *244输出 224 *224 肯定是加了padding的,如何算出这个padding 官网给了公式

这个一般用不到,写论文科研可以再去官网查看

下面介绍池化层

mxpool是下采样,mxunpool是上采样,dilation是空洞卷积,ceil——mode来保留,用来对应下面情况

最大池化操作,这里有一点要注意,stride(每次核移动的步进)默认为卷积核一样大小

 池化的直观感受就是变模糊了,保留了数据的主要特征,减小了数据量。

下面介绍非线性:

inplace如果是1的话就是替换input,如果是flase的话,就是把输出用另一个变量来承接

一般来说是要false的,保留以前的数据嘛

下面是使用sigmoid函数进行的非线性处理

插播stm32学习的:

陀螺仪原理:

 

下面介绍机器学习线性回归的问题:

x就是各种已知道的特征,这就是回归任务的第一步,线性回归

,这是实际值

第二步 就是我有label 和feartures 用函数预测出预测label,比较好坏。选出比较规则。

 

利用梯度下降,第三步找到最好loss

 

这种情况看人品?no 线性回归不需要担心,永远是第一种情况

梯度下降的算法:

 

用二次拟合更好的model:

或者更高的次来拟合更好的model 和更低的loss:

直到你用更高次的model来拟合,train 的结果更高了,但是test的结果更差了,这个就是过拟合了overfitting了

这个时候我们还要考虑:有时候只考虑一种feature肯定是不够的

用冲激函数来乘 来做选择,考虑多种feature

把全部能想象到的参数都加进去,因为我们不知道有哪些参数是影响的,这样做,我们在train上可以得到很低,但是又可能会过拟合!做到这里,还可以回到第二步,定义model的好坏。第二部只考虑的了预测值的error,regularization是加上额外的wi

要求参数越小越好,降低敏感度,提高函数的平滑性!

也不可以太平滑了,就相当于一个水平线,啥也干不成。调整朗木达来调整,为什么朗木达里面没有加上b?因为调整b的大小根本没用

总结:一个输出和多个feature有关,不过我们不确定那些有影响,就会overfiting,可以用正则化来平滑函数

更多推荐

轻量型服务器能支撑多少人访问?

一、服务器配置影响访问人数服务器的配置是影响轻量型服务器能够支撑的访问人数的关键因素之一。通常而言,轻量型服务器的配置普遍不高,适合小型团队或个人使用。如果服务器配置较低,那么支撑访问人数的能力也会受到限制。较为简单的应用程序对服务器性能要求不高,可以支持较多的访问人数。但是,如果应用程序较为复杂,对服务器性能要求较高

9月16日,每日信息差

今天是2023年09月16日,以下是为您准备的15条信息差第一、天猫超市首单“茅小凌”已由菜鸟送达,首单已由菜鸟供应链完成履约,18分钟送达消费者手中第二、软银考虑对OpenAI进行投资。此外,软银还初步拟收购英国人工智能芯片制造商Graphcore第三、我国共有327家网约车平台公司取得经营许可。各地共发放网约车驾驶

行业追踪,2023-09-20

自动复盘2023-09-20凡所有相,皆是虚妄。若见诸相非相,即见如来。k线图是最好的老师,每天持续发布板块的rps排名,追踪板块,板块来开仓,板块去清仓,丢弃自以为是的想法,板块去留让市场来告诉你跟踪板块总结:成交额超过100亿排名靠前,macd柱由绿转红成交量要大于均线有必要给每个行业加一个上级的归类,这样更能体现

C# Math.Round()四舍五入、四舍六入五成双

开发者为了实现小数点后2位的四舍五入,编写了如下代码,varnum=Math.Round(12.125,2);代码非常的简单,开发者实际得到的结果是12.12,这与其所预期的四舍五入结果12.13相悖。其实产生这个结果的原因是由于Math.Round默认使用的并非是四舍五入的原则,而是四舍六入五成双的原则。四舍六入五成

华为HCIA(三)

链路本地地址接口标识64bit当STP端口到了Forwarding状态后,会转发流量,也处理报文在TCP/IP模型中,会话层,表示层和应用层,都规划成了应用层路由表包含目的地址和掩码,优先级,cost,下一跳和出接口。Destination(目的地)protocol(协议)学习进制!!!在NCP协商完成后,PPP保持通

第37章_瑞萨MCU零基础入门系列教程之DAC数模转换模块

本教程基于韦东山百问网出的DShanMCU-RA6M5开发板进行编写,需要的同学可以在这里获取:https://item.taobao.com/item.htm?id=728461040949配套资料获取:https://renesas-docs.100ask.net瑞萨MCU零基础入门系列教程汇总:https://b

前端实现PDF预览:简单而高效的方法

前言PDF是一种常用的文件格式,但在网页中直接预览PDF文件可能会带来一些挑战。本文将介绍一种简单而高效的前端方法,以实现PDF文件的预览。使用iframe标签嵌入PDF文件最简单的方法是使用iframe标签来嵌入PDF文件。代码如下所示:<iframesrc="/path/to/pdf/file.pdf"width=

HDMI协议Ver2.0a(学习笔记)

1简介本规范由HDMI论坛制定2.目的和范围本文件构成了高清多媒体接口2.0版规范(HDMI规范2.0版)。本规范通过引用纳入了HDMI规范1.4b版,并定义了附加和改进的功能。对Source、Sink、中继器和电缆的合规性所需的机械、电气、行为和协议要求进行了说明。3.TBD4.TBD5.概述HDMI规范2.0版(本

正则表达式相关概念及不可见高度页面的获取

12.正则概念:匹配有规律的字符串,匹配上则正确1.正则的创建方式构造函数创建//修饰符igm//i忽视ignore//gglobal全球全局//m换行varreg=newRegExp("匹配的内容","修饰符")varstr="thisisaBox";varreg=newRegExp("box","igm");con

win10系统 C++环境 安装编译GRPC

第一步下载源码、更新、cmake编译:为了依赖的成功安装,采用gitee进行下载与更新。记得需要安装git软件。安装命令:在自己指定的目录下,鼠标右键,选择gitBashHere打开命令行gitclone-bv1.34.0https://gitee.com/mirrors/grpc-framework.gitgrpc在

java中集合的List

集合的List可以存储重复元素以下情况使用ArrayList:频繁访问列表中的某一个元素。只需要在列表末尾进行添加和删除元素操作。以下情况使用LinkedList:你需要通过循环迭代来访问列表中的某些元素。需要频繁的在列表开头、中间、末尾等位置进行添加和删除元素操作。一.ArrayList可以保存重复元素,底层是数组实

热文推荐