机器学习——奇异值分解(未完)

2023-09-18 11:49:49

开坑,刚看完书,已经有些窒息了
先把坑挖了,再慢慢填,避免自己划水跳过
我爱线代,线代爱我,阿弥陀佛

为什么要学奇异值分解?

因为书本倒数第二章专门提到的,想必一定很重要,于是我上网查了一下奇异值分解的应用

wow 。。。很有用,增加了学习的动力

奇异值分解的应用

在机器学习中,奇异值分解,可以删除一些没什么作用的特征。

具体是如何删除的呢?需要先了解一下,奇异值分解的数学原理

不会吧。。。我难道要用markdown语法来写矩阵的推导过程吗。。。
太痛苦了吧

首先,奇异值是什么?分解又从何谈起?

  • 奇异值分解的本质,其实是矩阵分解的延伸

什么是矩阵分解?矩阵分解又有什么意义呢?

  • 矩阵分解,是将一个矩阵分解为多个形式简单的矩阵,可以更好地理解矩阵本身的作用
  • 感觉像一句废话,举个栗子吧…oh不,举个up主:矩阵分解及正交矩阵

  • 其实就是用矩阵的伸缩、旋转变换功能来举例

向量

向量一般是竖着写的

向量的代数表示

向量一般用于表示一个多元齐次方程的系数

  • a 1 x 1 + a 1 x 1 + a 1 x 1 = 0 a_1x_1+a_1x_1+a_1x_1=0 a1x1+a1x1+a1x1=0

那么这个多元齐次方程的系数,可以用向量 A → A^→ A表示

A = [ a 1 a 2 a 3 ] \begin{bmatrix} a_1\\ a_2\\ a_3\\ \end{bmatrix} a1a2a3

向量的几何表示

向量的维数:

  • 一维向量表示直线上的方向向量
    在这里插入图片描述

  • 二维向量表示平面上的方向向量,如 [ 3 2 ] \begin{bmatrix} 3\\ 2\\ \end{bmatrix} [32]
    在这里插入图片描述

  • 三维向量表示空间上的方向向量 [ 0 1 1 ] \begin{bmatrix} 0\\ 1\\ 1\\ \end{bmatrix} 011

哭了,用上matplotlib吧

向量的乘法

向量乘法,一般指的是点乘,即
A = [ a 1 a 2 a 3 ] \begin{bmatrix} a_1\\ a_2\\ a_3\\ \end{bmatrix} a1a2a3 ,B = [ b 1 b 2 b 3 ] \begin{bmatrix} b_1\\ b_2\\ b_3\\ \end{bmatrix} b1b2b3 ,则 A B = a 1 ∗ b 1 + a 2 ∗ b 2 + a 3 ∗ b 3 AB = a_1*b_1+ a_2*b_2+ a_3*b_3 AB=a1b1+a2b2+a3b3

向量点乘的代数意义

待思考!!!!!

向量点乘的几何意义

向量与矩阵的关系

矩阵的乘法

矩阵乘法的功能:伸缩

在这里插入图片描述

矩阵乘法功能:旋转

矩阵乘法功能:伸缩+旋转

首先,任何矩阵,都可以进行奇异值分解
M = U Σ V T , 其中, U 和 V 都是对称矩阵, Σ 是正交对角阵 M = UΣV^T,其中,U和V都是对称矩阵,Σ是正交对角阵 M=UΣVT,其中,UV都是对称矩阵,Σ是正交对角阵

更多推荐

【Docker】了解和使用Docker

文章底部有投票活动,赶快参与进来吧😃相信大家在开发过程中都听说过Docker一词,至于Docker在开发中扮演的角色,估计好多人都说不上来,今天就让阿Q带大家一起揭开它神秘的面纱!文章目录什么是容器?容器的优点什么是Docker?Docker思想为什么要用Docker?容器VS虚拟机Docker中的基本概念镜像(Im

Reinforcement Learning(二)--on-policy和off-policy

1.前言强化学习(Reinforcementlearning,RL)是机器学习的一个分析,特点是概念多、公式多、入门门槛高🥲(别问我怎么知道的)。本篇文章着重讲解RL最重要的概念之一,即on-policy和off-policy,这2个概念极易与online和offline混淆,为体现文章的独立性,online和off

openGauss Meetup(杭州站)全程精彩回顾

9月16日,由云和恩墨、图尔兹、浙江鲲鹏、openGauss社区联合主办的“openGaussMeetup(杭州站)”活动在杭州市拱墅区中国智慧信息产业园成功举办,此次活动邀请到众多业内技术专家,与行业同仁一起探讨数据库技术创新与未来发展,助力企业数字化转型发展。出席此次活动的领导和嘉宾有图尔兹创始人&总经理陈邦义、o

16个图像分类方向开源数据集资源汇总(附下载链接)

FruitNet水果分类/识别数据集下载链接:http://suo.nz/2Cfo4y需要高质量的水果图像来解决水果分类和识别问题。要构建机器学习模型,整洁干净的数据集是基本要求。为了这个目标,我们创建了名为“FruitNet”的六种流行印度水果的数据集。该数据集包含6种不同类别水果的14700多张经过处理的格式的高质

LGA封装芯片焊接失效

NO.1案例背景某摄像头模组,在生产测试过程中发生功能不良失效,经过初步的分析,判断可能是LGA封装主芯片异常。NO.2分析过程#1X-ray分析【样品#1】【样品#2】测试结果:两个失效样品LGA焊接未发现明显异常。#2染色分析测试结果:样品1将LGA染色试验剥离后,发现焊点多数存在锡量较少的现象,焊接面积小;少数呈

解锁网络世界的利器:代理IP与Socks5代理

随着跨界电商、爬虫、网络安全和游戏等领域的不断发展,网络工程师们正面临着越来越多的挑战和机会。在这个信息爆炸的时代,如何更有效地访问、保护和探索网络资源成为了网络工程师们的首要任务。本文将重点介绍代理IP和Socks5代理,它们是网络世界的利器,为网络工程师提供了强大的工具来应对各种技术挑战。代理IP的妙用代理IP是一

爱分析《商业智能最佳实践案例》

近日,国内知名数字化市场研究咨询机构爱分析发布《2023爱分析·商业智能最佳实践案例》,此评选活动面向落地商业智能的各行企业和商业智能厂商,以第三方专业视角深入调研,评选出具有参考价值的创新案例。永达汽车集团与数聚股份合作的数字化智能运营管理平台项目,凭借突出的实践领先性与案例创新性,作为商业智能典型案例实力入选本次报

Android 插件开发框架 总结

1)类转载器ClassLoader:标准的javaSDK中有ClassLoader类,ClassLoader加载类的方式常称为双亲委托,ClassLoader.java具体代码如下:protectedClass<?>loadClass(StringclassName,booleanresolve)throwsClass

物联网的未来:连接的智能世界

物联网(IoT)是引领我们走向未来的一项关键技术。它让物品通过互联网进行连接,交流,开创了智能生活新时代。预计到2025年,全球将拥有超过410亿的IoT设备。在对人类生活的每个方面产生影响的同时,物联网也正在为经济增长、社会进步和环境可持续性开创新的可能性。物联网的最大优势在于其无所不在的连通性。从智能家居到工业自动

HEC-RAS 1D/2D水动力与水环境模拟教程

详情点击公众号技术科研吧链接:HEC-RAS1D/2D水动力与水环境模拟教程前言水动力与水环境模型的数值模拟是实现水资源规划、环境影响分析、防洪规划以及未来气候变化下预测和分析的主要手段。然而,一方面水动力和水环境模型的使用非常复杂,理论繁复;另一方面,免费的水动力和水环境软件往往缺少重要功能,而商业软件则非常昂贵。H

沈阳闪耀“城市之光”,小赢卡贷与民宿创业者共创美好未来!

根据最新发布的《2023年暑期旅游市场趋势报告》显示,旅游市场的复苏势头正迅猛加速,公众对出游的信心也持续恢复,超过70%的受访者表示他们计划在暑假期间进行旅行。沈阳作为一个备受欢迎的暑期旅游目的地,吸引了大量游客的目光,根据携程发布的《2023年五一出游数据报告》,五一期间,沈阳累计接待人次达到611.06万,旅游总

热文推荐