机器学习中的数学原理——多项式回归

创始人

2024-04-20 08:31:55

0次

这个专栏主要是用来分享一下我在机器学习中的学习笔记及一些感悟，也希望对你的学习有帮助哦！感兴趣的小伙伴欢迎私信或者评论区留言！这一篇就更新一下《白话机器学习中的数学——多项式回归》！

一、什么多项式回归

二、算法分析

三、总结

一、什么多项式回归

多项式回归是线性回归的一种特殊情况，其中我们在数据上拟合了多项式方程，目标变量和自变量之间具有曲线关系。在曲线关系中，目标变量的值相对于预测变量以不均匀的方式变化。

二、算法分析

首先我们看一次函数的解析式：

$f_{\Theta }(x) = \Theta _{0}+\Theta _{1}x$

我们引入了两个变量， $\Theta 0$ 和 $\Theta 1$ ，它的图像是一条直线:

之前我们用微分求出了这个函数的斜率和截距，但是从我们的数据点上来看，其实曲线比直线拟合得更好。

我们将fθ(x)定义为二次函数，添加一个二次项，就能用它来表示这条曲线了。

$f_{\Theta }(x) = \Theta _{0}+\Theta _{1}x+\Theta _{2}x^2$

或者我们用更高次次数的表达式也可以。这样就能表示更复杂的曲线了。

$f_{\Theta }(x) = \Theta _{0}+\Theta _{1}x+\Theta _{2}x^2+\Theta _{3}x^3+...+\Theta _{n}x^n$

所以我们在不断尝试之后决定 $f_{\Theta }(x)$ 是什么样的函数，但是要注意，并不是函数次数越大，拟合得越好。次数过大，难免会出现过拟合的情况。首先我们先看加入 $\Theta 2$ 这个新的函数。接下来我们写出 $\Theta 2$ 更新表达式的推导方法。

和之前一样，设u = E(θ)、v = fθ(x)，然后试着用 u 对 θ2偏微分，求出更新表达式。u 对 v 微分的部分是一样的，所以我们只要求 v 对 θ2 的微分就行了。

那么即使增加参数，比如有 θ3、θ4 等，我们依然可以用同样的方法求出它们的更新表达式，像这样增加函数中多项式的次数，然后再使用函数的分析方法就被称为多项式回归！

三、总结

多项式回归在原有的基础上引入了更高次的变量，我们要求出更高次参数的更新表达式，这一部分可以看之前写的梯度下降法更新参数。只要求出参数就能求得表达式了。

词库加载错误:未能找到文件“E:\highferrum_mysql\Configuration\Dict_Stopwords.txt”。

上一篇：《程序员的自我修养》程序实现的两大环境

下一篇：从零到一手写一个小型RPC框架——介绍篇

热门资讯

我来教大家“掼蛋大师辅助器ap... 亲，掼蛋大师这款游戏可以开挂的，确实是有挂的，。但是开挂要下载第三方辅助软件，掼蛋大师的开挂软件，名...

我来教大家“开心联盟辅助器ap... 您好，开心联盟这款游戏可以开挂的，确实是有挂的，需要了解加微{7198902}很多玩家在这款游戏中打...

我来教大家“友愉棋牌辅助器ap... 您好，友愉棋牌这款游戏可以开挂的，确实是有挂的，需要了解加微{7198902}很多玩家在这款游戏中打...

我来教大家“全盛棋牌辅助器ap... 亲，全盛棋牌这款游戏可以开挂的，确实是有挂的，。但是开挂要下载第三方辅助软件，全盛棋牌的开挂软件，名...

我来教大家“情怀三三麻将辅助器... 我来教大家“情怀三三麻将辅助器app官方下载最新版本更新”详细分享开挂一、情怀三三麻将AI软件牌型概...

我来教大家“无锡好运麻将辅助器... 亲，无锡好运麻将这款游戏可以开挂的，确实是有挂的，。但是开挂要下载第三方辅助软件，无锡好运麻将的开挂...

我来教大家“推筒子辅助器app... 您好，推筒子这款游戏可以开挂的，确实是有挂的，需要了解加微{7198902}很多玩家在这款游戏中打牌...

我来教大家“比奇堡辅助器app... 我来教大家“比奇堡辅助器app官方下载最新版本更新”详细分享开挂1、让任何用户在无需AI插件第三方神...

我来教大家“新兴茶苑辅助器ap... 我来教大家“新兴茶苑辅助器app官方下载最新版本更新”详细分享开挂1、让任何用户在无需AI插件第三方...

我来教大家“欢乐互动辅助器ap... 我来教大家“欢乐互动辅助器app官方下载最新版本更新”详细分享开挂1、让任何用户在无需AI插件第三方...

我来教大家“东方互娱辅助器ap... 亲，东方互娱这款游戏可以开挂的，确实是有挂的，。但是开挂要下载第三方辅助软件，东方互娱的开挂软件，名...

我来教大家“天天乐清麻将辅助器... 我来教大家“天天乐清麻将辅助器app官方下载最新版本更新”详细分享开挂一、天天乐清麻将AI软件牌型概...

我来教大家“唐三彩辅助器app... 我来教大家“唐三彩辅助器app官方下载最新版本更新”详细分享开挂一、唐三彩AI软件牌型概率发牌机制”...

我来教大家“Y0辅助器app官... 我来教大家“Y0辅助器app官方下载最新版本更新”详细分享开挂一、Y0AI软件牌型概率发牌机制”必胜...

我来教大家“天天互娱辅助器ap... 亲，天天互娱这款游戏可以开挂的，确实是有挂的，。但是开挂要下载第三方辅助软件，天天互娱的开挂软件，名...

我来教大家“悟空竞技麻将辅助器... 亲，悟空竞技麻将这款游戏可以开挂的，确实是有挂的，。但是开挂要下载第三方辅助软件，悟空竞技麻将的开挂...

我来教大家“情怀开化麻将辅助器... 我来教大家“情怀开化麻将辅助器app官方下载最新版本更新”详细分享开挂一、情怀开化麻将AI软件牌型概...

我来教大家“龙炎互娱辅助器ap... 我来教大家“龙炎互娱辅助器app官方下载最新版本更新”详细分享开挂一、龙炎互娱AI软件牌型概率发牌机...

我来教大家“闲逸碰胡辅助器ap... 亲，闲逸碰胡这款游戏可以开挂的，确实是有挂的，。但是开挂要下载第三方辅助软件，闲逸碰胡的开挂软件，名...

我来教大家“友聚麻将辅助器ap... 我来教大家“友聚麻将辅助器app官方下载最新版本更新”详细分享开挂一、友聚麻将AI软件牌型概率发牌机...

机器学习中的数学原理——多项式回归

一、什么多项式回归

二、算法分析

三、总结

相关内容

热门资讯