机器学习中的数学原理——多项式回归
创始人
2024-04-20 08:31:55
0次

这个专栏主要是用来分享一下我在机器学习中的学习笔记及一些感悟，也希望对你的学习有帮助哦！感兴趣的小伙伴欢迎私信或者评论区留言！这一篇就更新一下《白话机器学习中的数学——多项式回归》！

目录

一、什么多项式回归

二、算法分析

三、总结

一、什么多项式回归

多项式回归是线性回归的一种特殊情况，其中我们在数据上拟合了多项式方程，目标变量和自变量之间具有曲线关系。 在曲线关系中，目标变量的值相对于预测变量以不均匀的方式变化。

二、算法分析

首先我们看一次函数的解析式：

f_{\Theta }(x) = \Theta _{0}+\Theta _{1}x

我们引入了两个变量，\Theta 0和\Theta 1，它的图像是一条直线:

 之前我们用微分求出了这个函数的斜率和截距，但是从我们的数据点上来看，其实曲线比 直线拟合得更好。

我们将fθ(x)定义为二次函数，添加一个二次项，就能用它来表示这条曲线了。

f_{\Theta }(x) = \Theta _{0}+\Theta _{1}x+\Theta _{2}x^2

或者我们用更高次次数的表达式也可以。这样就能表示更复杂的曲线了。

f_{\Theta }(x) = \Theta _{0}+\Theta _{1}x+\Theta _{2}x^2+\Theta _{3}x^3+...+\Theta _{n}x^n

 所以我们在不断尝试之后决定f_{\Theta }(x)是什么样的函数，但是要注意，并不是函数次数越大，拟合得越好。次数过大，难免会出现过拟合的情况。首先我们先看加入\Theta 2这个新的函数。接下来我们写出\Theta 2更新表达式的推导方法。

和之前一样，设u = E(θ)、v = fθ(x)，然后试着用 u 对 θ2偏微分，求出更新表达式。u 对 v 微分的部分是一样的，所以我们只要求 v 对 θ2 的微分就行了。

那么即使增加参数，比如有 θ3、θ4 等，我们依然可以用同样的方法求出它们的更新表达式，像这样增加函数中多项式的次数，然后再使用函数的分析方法就被称为多项式回归！

三、总结

多项式回归在原有的基础上引入了更高次的变量，我们要求出更高次参数的更新表达式，这一部分可以看之前写的梯度下降法更新参数。只要求出参数就能求得表达式了。

词库加载错误:未能找到文件“E:\highferrum_mysql\Configuration\Dict_Stopwords.txt”。

上一篇：《程序员的自我修养》程序实现的两大环境

下一篇：从零到一手写一个小型RPC框架——介绍篇

相关内容

热门资讯

安卓双系统添加应用,轻松实现多... 你有没有想过，你的安卓手机里可以同时运行两个系统呢？听起来是不是很酷？想象一边是熟悉的安卓系统，一边...
pipo安卓进系统慢,探究pi... 最近是不是发现你的Pipo安卓系统更新或者运行起来特别慢？别急，今天就来给你好好分析分析这个问题，让...
怎样使用安卓手机系统,安卓手机... 你有没有发现，安卓手机已经成为我们生活中不可或缺的一部分呢？从早晨闹钟响起，到晚上睡前刷剧，安卓手机...
双系统安卓安装caj,轻松实现... 你有没有想过，你的安卓手机里装上双系统，是不是就能同时享受安卓和Windows系统的乐趣呢？没错，这...
安卓使用ios系统教程,安卓用... 你是不是也和我一样，对安卓手机上的iOS系统充满了好奇？想要体验一下苹果的优雅和流畅？别急，今天我就...
安卓系统gps快速定位,畅享便... 你有没有遇到过这样的情况：手机里装了各种地图导航软件，但每次出门前都要等上好几分钟才能定位成功，急得...
安卓手机系统更新原理,原理与流... 你有没有发现，你的安卓手机最近是不是总在提醒你更新系统呢？别急，别急，让我来给你揭秘一下安卓手机系统...
安卓系统通知管理,全面解析与优... 你有没有发现，手机里的通知就像是一群调皮的小精灵，时不时地跳出来和你互动？没错，说的就是安卓系统的通...
安卓系统手机哪买,揭秘哪里购买... 你有没有想过，拥有一部安卓系统手机是多么酷的事情呢？想象你可以自由安装各种应用，不受限制地探索各种功...
安卓系统 ipv4,基于安卓系... 你知道吗？在智能手机的世界里，有一个系统可是无人不知、无人不晓，那就是安卓系统。而在这个庞大的安卓家...
目前安卓是什么系统,探索安卓系... 亲爱的读者，你是否曾好奇过，如今安卓系统究竟是什么模样？在这个科技飞速发展的时代，操作系统如同人体的...
安卓6.0系统比5.0,从5.... 你有没有发现，自从手机更新了安卓6.0系统，感觉整个人都清爽了不少呢？没错，今天咱们就来聊聊这个话题...
安卓2.36系统升级,功能革新... 你知道吗？最近安卓系统又来了一次大变身，那就是安卓2.36系统升级！这可不是一个小打小闹的更新，而是...
安卓系统源码怎么打开,并可能需... 你有没有想过，安卓系统的源码就像是一扇神秘的门，隐藏着无数的技术秘密？想要打开这扇门，你得掌握一些小...
安卓8.0系统体验视频,智能革... 你有没有听说安卓8.0系统最近可是火得一塌糊涂啊！作为一个紧跟科技潮流的数码达人，我当然要来给你好好...
宣传系统漫画app安卓,探索安... 亲爱的读者们，你是否曾在某个午后，百无聊赖地打开手机，想要寻找一些轻松愉悦的读物？今天，我要给你介绍...
鸿蒙替换安卓系统吗,开启智能生... 你知道吗？最近科技圈里可是炸开了锅，因为华为的新操作系统鸿蒙系统，据说要大举进军手机市场，替换掉安卓...
手机安卓系统深度清理,解锁手机... 手机里的东西是不是越来越多，感觉就像一个装满了杂物的储物柜？别急，今天就来教你一招——手机安卓系统深...
安卓上的windows系统,融... 你有没有想过，在安卓手机上也能体验到Windows系统的魅力呢？没错，这就是今天我要跟你分享的神奇故...
安卓系统焦点变化事件,Andr... 你知道吗？在安卓系统的世界里，最近发生了一件超级有趣的事情——焦点变化事件。这可不是什么小打小闹，它...