机器学习中的数学原理——多项式回归
创始人
2024-04-20 08:31:55
0次

这个专栏主要是用来分享一下我在机器学习中的学习笔记及一些感悟，也希望对你的学习有帮助哦！感兴趣的小伙伴欢迎私信或者评论区留言！这一篇就更新一下《白话机器学习中的数学——多项式回归》！

目录

一、什么多项式回归

二、算法分析

三、总结

一、什么多项式回归

多项式回归是线性回归的一种特殊情况，其中我们在数据上拟合了多项式方程，目标变量和自变量之间具有曲线关系。 在曲线关系中，目标变量的值相对于预测变量以不均匀的方式变化。

二、算法分析

首先我们看一次函数的解析式：

f_{\Theta }(x) = \Theta _{0}+\Theta _{1}x

我们引入了两个变量，\Theta 0和\Theta 1，它的图像是一条直线:

 之前我们用微分求出了这个函数的斜率和截距，但是从我们的数据点上来看，其实曲线比 直线拟合得更好。

我们将fθ(x)定义为二次函数，添加一个二次项，就能用它来表示这条曲线了。

f_{\Theta }(x) = \Theta _{0}+\Theta _{1}x+\Theta _{2}x^2

或者我们用更高次次数的表达式也可以。这样就能表示更复杂的曲线了。

f_{\Theta }(x) = \Theta _{0}+\Theta _{1}x+\Theta _{2}x^2+\Theta _{3}x^3+...+\Theta _{n}x^n

 所以我们在不断尝试之后决定f_{\Theta }(x)是什么样的函数，但是要注意，并不是函数次数越大，拟合得越好。次数过大，难免会出现过拟合的情况。首先我们先看加入\Theta 2这个新的函数。接下来我们写出\Theta 2更新表达式的推导方法。

和之前一样，设u = E(θ)、v = fθ(x)，然后试着用 u 对 θ2偏微分，求出更新表达式。u 对 v 微分的部分是一样的，所以我们只要求 v 对 θ2 的微分就行了。

那么即使增加参数，比如有 θ3、θ4 等，我们依然可以用同样的方法求出它们的更新表达式，像这样增加函数中多项式的次数，然后再使用函数的分析方法就被称为多项式回归！

三、总结

多项式回归在原有的基础上引入了更高次的变量，我们要求出更高次参数的更新表达式，这一部分可以看之前写的梯度下降法更新参数。只要求出参数就能求得表达式了。

词库加载错误:未能找到文件“E:\highferrum_mysql\Configuration\Dict_Stopwords.txt”。

上一篇：《程序员的自我修养》程序实现的两大环境

下一篇：从零到一手写一个小型RPC框架——介绍篇

相关内容

热门资讯

电视安卓系统哪个品牌好,哪家品... 你有没有想过，家里的电视是不是该升级换代了呢？现在市面上电视品牌琳琅满目，各种操作系统也是让人眼花缭...
安卓会员管理系统怎么用,提升服... 你有没有想过，手机里那些你爱不释手的APP，背后其实有个强大的会员管理系统在默默支持呢？没错，就是那...
安卓系统软件使用技巧,解锁软件... 你有没有发现，用安卓手机的时候，总有一些小技巧能让你玩得更溜？别小看了这些小细节，它们可是能让你的手...
安卓系统提示音替换 你知道吗？手机里那个时不时响起的提示音，有时候真的能让人心情大好，有时候又让人抓狂不已。今天，就让我...
安卓开机不了系统更新 手机突然开不了机，系统更新还卡在那里，这可真是让人头疼的问题啊！你是不是也遇到了这种情况？别急，今天...
安卓系统中微信视频,安卓系统下... 你有没有发现，现在用手机聊天，视频通话简直成了标配！尤其是咱们安卓系统的小伙伴们，微信视频功能更是用...
安卓系统是服务器,服务器端的智... 你知道吗？在科技的世界里，安卓系统可是个超级明星呢！它不仅仅是个手机操作系统，竟然还能成为服务器的得...
pc电脑安卓系统下载软件,轻松... 你有没有想过，你的PC电脑上安装了安卓系统，是不是瞬间觉得世界都大不一样了呢？没错，就是那种“一机在...
电影院购票系统安卓,便捷观影新... 你有没有想过，在繁忙的生活中，一部好电影就像是一剂强心针，能瞬间让你放松心情？而我今天要和你分享的，...
安卓系统可以写程序? 你有没有想过，安卓系统竟然也能写程序呢？没错，你没听错！这个我们日常使用的智能手机操作系统，竟然有着...
安卓系统架构书籍推荐,权威书籍... 你有没有想过，想要深入了解安卓系统架构，却不知道从何下手？别急，今天我就要给你推荐几本超级实用的书籍...
安卓系统看到的炸弹,技术解析与... 安卓系统看到的炸弹——揭秘手机中的隐形威胁在数字化时代，智能手机已经成为我们生活中不可或缺的一部分。...
鸿蒙系统有安卓文件,畅享多平台... 你知道吗？最近在科技圈里，有个大新闻可是闹得沸沸扬扬的，那就是鸿蒙系统竟然有了安卓文件！是不是觉得有...
宝马安卓车机系统切换,驾驭未来... 你有没有发现，现在的汽车越来越智能了？尤其是那些豪华品牌，比如宝马，它们的内饰里那个大屏幕，简直就像...
p30退回安卓系统 你有没有听说最近P30的用户们都在忙活一件大事？没错，就是他们的手机要退回安卓系统啦！这可不是一个简...
oppoa57安卓原生系统,原... 你有没有发现，最近OPPO A57这款手机在安卓原生系统上的表现真是让人眼前一亮呢？今天，就让我带你...
安卓系统输入法联想,安卓系统输... 你有没有发现，手机上的输入法真的是个神奇的小助手呢？尤其是安卓系统的输入法，简直就是智能生活的点睛之...
怎么进入安卓刷机系统,安卓刷机... 亲爱的手机控们，你是否曾对安卓手机的刷机系统充满好奇？想要解锁手机潜能，体验全新的系统魅力？别急，今...
安卓系统程序有病毒 你知道吗？在这个数字化时代，手机已经成了我们生活中不可或缺的好伙伴。但是，你知道吗？即使是安卓系统，...
奥迪中控安卓系统下载,畅享智能... 你有没有发现，现在汽车的中控系统越来越智能了？尤其是奥迪这种豪华品牌，他们的中控系统简直就是科技与艺...