机器学习(14)---逻辑回归(含手写公式、推导过程和手写例题)

2023-09-14 23:30:11


一、逻辑回归概述

 1. 逻辑回归也称作logistic回归分析,是一种广义的线性回归分析模型,属于机器学习中的监督学习。其推导过程与计算方式类似于回归的过程,但实际上主要是用来解决二分类问题(当然也可以解决多分类问题)。

 2. 二分类问题只有两个类别。对于类别我们通常称为正类(positive class)和负类(negative class)。 (1)例如,我们给出一个人的 [身高,体重] 这两个指标,然后判断这个人是属于”胖“还是”瘦“这一类。对于这个问题,我们可以先测量n个人的身高、体重以及对应的指标”胖“,"瘦”,把胖和瘦分别用0和1来表示,把这n组数据输入模型进行训练。训练之后再把待分类的一个人的身高、体重输入模型中,看这个人是属于“胖”还是“瘦”。 (2)例如:一个垃圾邮件过滤系统,x是邮件的特征,预测的y值就是邮件的类别(是垃圾邮件还是正常邮件),在该例子中,正类就是正常邮件,负类就是垃圾邮件。

在这里插入图片描述

二、模型、策略和优化(手写)

在这里插入图片描述

三、w和b的梯度下降公式推导

在这里插入图片描述

四、例题分析

4.1 题目

在这里插入图片描述

4.2 解答

在这里插入图片描述

更多推荐

设计模式:享元模式(C++实现)

享元模式(FlyweightPattern)是一种结构设计模式,它通过共享对象来有效地支持大量细粒度的对象。享元模式的目标是尽量减少内存使用,通过共享相同的数据来减少对象的数量。以下是一个简单的C++享元模式的示例:#include<iostream>#include<unordered_map>//抽象享元类clas

【力扣每日一题】2023.9.17 打家劫舍Ⅱ

目录题目:示例:分析:代码:题目:示例:分析:打家劫舍2在1的基础上增加了一个规则,那就是房屋是首尾相连的。这对我们解题有什么影响呢?唯一的影响就是我们偷了第一间屋子就不能偷最后一间屋子了。最终情况可以分为两种,第一种就是可以偷第一间屋子而不能偷最后一间屋子,第二种就是可以偷最后一间屋子而不能偷第一间屋子。在第一种情况

分布式电源接入对配电网影响分析(Matlab代码实现)

💥💥💞💞欢迎来到本博客❤️❤️💥💥🏆博主优势:🌞🌞🌞博客内容尽量做到思维缜密,逻辑清晰,为了方便读者。⛳️座右铭:行百里者,半于九十。📋📋📋本文目录如下:🎁🎁🎁目录💥1概述📚2运行结果🎉3参考文献🌈4Matlab代码、数据、文章💥1概述分布式电源的接入将配电系统从传统的无源放射

shell编程

目录shell脚本的第一行变量数据类型Linux下的计算器--bc整数数值的运算获得命令的输出结果字符串操作数组循环forwhile判断case语句函数shell脚本的第一行一般shell脚本的第一行用于在没有指定解释器时,默认使用这个解释器执行如,默认使用Bash解释器来执行这个脚本#!/bin/bash如果安装了p

LabVIEW使用ModbusTCP协议构建分布式测量系统

LabVIEW使用ModbusTCP协议构建分布式测量系统分布式测量系统主要用于监控远程物体。这种系统允许对系统用户获得的数据进行全面的数据收集、处理、存储和组织访问。它们可能包括许多不同类型的传感器。在任何具有互联网接入的个人计算机上运行的软件都会发送来自传感器的测量数据请求,接收来自控制器的响应,并将接收的值保存在

Docker 网络学习

docker的网络模式当你开始大规模使用Docker时,你会发现需要了解很多关于网络的知识。Docker作为目前最火的轻量级容器技术,有很多令人称道的功能,如Docker的镜像管理。然而,Docker同样有着很多不完善的地方,网络方面就是Docker比较薄弱的部分。因此,我们有必要深入了解Docker的网络知识,以满足

深度学习修炼(二)全连接神经网络 | Softmax,交叉熵损失函数 优化AdaGrad,RMSProp等 对抗过拟合 全攻略

文章目录1多层感知机(全连接神经网络)1.1表示1.2基本概念1.3必要组成—激活函数1.4网络结构设计2损失函数2.1SOFTMAX操作2.2交叉熵损失函数3优化3.1求导计算过于复杂?3.2链式法则导致的问题?3.3梯度下降算法的改进3.3.1动量法3.3.2自适应梯度方法1AdaGrad2RMSProp3.3.1

【Docker】Docker简介

Docker简介📋导航1.Docker简介1.1什么是Docker?1.2什么是容器?1.3容器的优势?1.4Docker的优势?1.5虚拟技术与容器技术Docker的区别?1.6为什么学习Docker?2.安装Docker3.Docker架构4.Docker命令4.1Docker镜像(1)查看所有的镜像(2)搜索镜

学习分布式第一天(分布式系统原理和概念)

目录分布式系统原理和概念1.分布式系统:单体架构:垂直架构:分布式架构:2.分布式计算:3.CAP原理:4.BASE理论:5.Paxos算法:6.Raft算法:分布式系统原理和概念1.分布式系统:学习分布式,肯定的知道什么是分布式。分布式言简意赅,就是多台电脑部署实现你要实现的功能,突破了单机的性能机器的瓶颈(高性能)

机器学习——特征工程和评价指标

0、前言:首先学习特征工程这部分知识之前,要对机器学习的算法用过使用。1、特征工程:就机器学习的数据而言,特征就是数据的列名,有多少列,就有多少个维度的特征。就定义而言,特征是指数据中抽取出来对结果预测有用的信息。特征工程就是使用一些技巧来处理数据,使数据特征能在机器学习算法中发挥更好的作用本质而言,特征工程其实就是数

【Tensorflow 2.12 电影推荐系统之排序模型】

Tensorflow2.12电影推荐系统之排序模型学习笔记导入相关模块准备数据加载数据数据预处理获取词汇表构建模型定义评分排序模型定义损失函数以及模型评估指标定义完整的评分排序模型训练和评估创建排序模型实例缓存数据训练评估预测导出和加载模型结尾学习笔记Tensorflow2.12智能电影推荐系统搭建学习笔记~Tenso

热文推荐