机器学习中的数学原理——多项式回归
创始人
2024-04-20 08:31:55
0次

这个专栏主要是用来分享一下我在机器学习中的学习笔记及一些感悟，也希望对你的学习有帮助哦！感兴趣的小伙伴欢迎私信或者评论区留言！这一篇就更新一下《白话机器学习中的数学——多项式回归》！

目录

一、什么多项式回归

二、算法分析

三、总结

一、什么多项式回归

多项式回归是线性回归的一种特殊情况，其中我们在数据上拟合了多项式方程，目标变量和自变量之间具有曲线关系。 在曲线关系中，目标变量的值相对于预测变量以不均匀的方式变化。

二、算法分析

首先我们看一次函数的解析式：

f_{\Theta }(x) = \Theta _{0}+\Theta _{1}x

我们引入了两个变量，\Theta 0和\Theta 1，它的图像是一条直线:

 之前我们用微分求出了这个函数的斜率和截距，但是从我们的数据点上来看，其实曲线比 直线拟合得更好。

我们将fθ(x)定义为二次函数，添加一个二次项，就能用它来表示这条曲线了。

f_{\Theta }(x) = \Theta _{0}+\Theta _{1}x+\Theta _{2}x^2

或者我们用更高次次数的表达式也可以。这样就能表示更复杂的曲线了。

f_{\Theta }(x) = \Theta _{0}+\Theta _{1}x+\Theta _{2}x^2+\Theta _{3}x^3+...+\Theta _{n}x^n

 所以我们在不断尝试之后决定f_{\Theta }(x)是什么样的函数，但是要注意，并不是函数次数越大，拟合得越好。次数过大，难免会出现过拟合的情况。首先我们先看加入\Theta 2这个新的函数。接下来我们写出\Theta 2更新表达式的推导方法。

和之前一样，设u = E(θ)、v = fθ(x)，然后试着用 u 对 θ2偏微分，求出更新表达式。u 对 v 微分的部分是一样的，所以我们只要求 v 对 θ2 的微分就行了。

那么即使增加参数，比如有 θ3、θ4 等，我们依然可以用同样的方法求出它们的更新表达式，像这样增加函数中多项式的次数，然后再使用函数的分析方法就被称为多项式回归！

三、总结

多项式回归在原有的基础上引入了更高次的变量，我们要求出更高次参数的更新表达式，这一部分可以看之前写的梯度下降法更新参数。只要求出参数就能求得表达式了。

词库加载错误:未能找到文件“E:\highferrum_mysql\Configuration\Dict_Stopwords.txt”。

上一篇：《程序员的自我修养》程序实现的两大环境

下一篇：从零到一手写一个小型RPC框架——介绍篇

相关内容

热门资讯

安卓系统自带的网页,功能与特色... 你有没有发现，每次打开安卓手机，那熟悉的系统界面里总有一个默默无闻的小家伙——安卓系统自带的网页浏览...
美咖云系统安卓版,开启智能生活... 你有没有发现，最近手机上多了一个叫“美咖云系统安卓版”的小家伙？它就像一个魔法师，轻轻一点，就能让你...
安卓系统推荐最好的手机,盘点性... 你有没有想过，拥有一部性能卓越的手机，就像是拥有了移动的宝藏库？在这个信息爆炸的时代，一部好手机不仅...
安卓11系统能精简吗,释放潜能 你有没有发现，随着手机越来越智能，系统也越来越庞大？安卓11系统，这个最新的操作系统，是不是也让你觉...
安卓自动重启系统软件,揭秘原因... 手机突然自动重启，是不是感觉整个人都不好了？别急，今天就来和你聊聊这个让人头疼的安卓自动重启系统软件...
苹果手机x刷安卓系统,探索安卓... 你有没有想过，你的苹果手机X竟然也能刷上安卓系统？是的，你没听错，就是那个一直以来都和我们苹果手机X...
安卓系统智商低吗,智商低下的真... 你有没有想过，为什么安卓系统的智商总被调侃得好像有点低呢？是不是觉得它总是慢吞吞的，有时候还犯点小错...
安卓系统手机联系人,揭秘你的社... 你有没有发现，手机里的联系人列表就像是一个小小的社交圈呢？里面藏着我们的亲朋好友、工作伙伴，甚至还有...
安卓系统免费铃声下载,打造个性... 手机里那首老掉牙的铃声是不是让你觉得有点out了呢？别急，今天就来给你支个招，让你轻松给安卓手机换上...
安卓系统用哪个桌面好,打造个性... 你有没有发现，手机桌面可是我们每天都要面对的“脸面”呢？换一个好看的桌面，心情都能跟着好起来。那么，...
虚拟大师是安卓10系统,功能与... 你知道吗？最近在手机圈里，有个新玩意儿引起了不小的轰动，那就是虚拟大师！而且，更让人惊喜的是，这个虚...
安卓系统与苹果优缺点,系统优缺... 说到手机操作系统，安卓和苹果绝对是两大巨头，它们各有各的特色，就像两道不同的美味佳肴，让人难以抉择。...
安卓win双系统主板,融合与创... 你有没有想过，一台电脑如果既能流畅运行安卓系统，又能轻松驾驭Windows系统，那该有多爽啊？没错，...
安卓系统可精简软件,轻松提升手... 你有没有发现，手机里的安卓系统越来越庞大，软件也越装越多，有时候感觉手机就像个“大肚子”，不仅运行速...
安卓系统基于linux的代码,... 你有没有想过，那个陪伴你每天刷抖音、玩游戏、办公的安卓系统，其实背后有着一套复杂的基于Linux的代...
苹果和安卓的拍照系统,谁更胜一... 你有没有发现，现在手机拍照已经成为我们生活中不可或缺的一部分呢？无论是记录生活的点滴，还是捕捉美丽的...
苹果和安卓系统不同吗,系统差异... 你有没有想过，为什么你的手机里装的是苹果的iOS系统，而朋友的手机却是安卓系统呢？这两种系统，看似都...
安卓系统有多少级,揭秘其多级架... 你有没有想过，那个陪伴我们日常生活的安卓系统，它其实有着丰富的层级结构呢？没错，就是那个让我们的手机...
华为鸿蒙系统与安卓的,技术融合... 你知道吗？最近科技圈可是炸开了锅，华为鸿蒙系统与安卓的较量成为了大家热议的话题。这不，今天我就来给你...
什么安卓手机是苹果系统,搭载苹... 你有没有想过，为什么有些人宁愿花大价钱买苹果手机，而有些人却对安卓手机情有独钟呢？其实，这个问题背后...