机器学习笔记监督学习和无监督学习全面总结(原理示意图代码)

开通VIP,畅享免费电子书等14项超值服

首页

好书

留言交流

下载APP

联系客服

2024.06.19上海

本文为大家总结了监督学习和无监督学习中常用算法原理简单介绍,包括了代码的详细详解,是机器学习的入门学习,同时也是AI算法面试的重点问题。

定义:提供输入数据和其对应的标签数据,然后搭建一个模型,模型经过训练后准确的找到输入数据和标签数据之间的最优映射关系,从而对新的未标记数据进行预测或分类。

定义看懵逼了吧?接下来说人话!!!假如有一群草泥马和牛马组成的马群,这时候需要一个机器对马群进行分类,但是这个机器不知道草泥马和牛马长什么样儿,所以我们首先拿一堆草泥马和牛马的照片给机器看,告诉机器草泥马和牛马长什么样儿。机器经过反复的看,形成肌肉记忆,可以对草泥妈和牛马形成自己的定义,然后机器就可以准确的对马群进行分类。在这个过程中,草泥马和牛马的照片就叫做标签,反复的看理解为训练,形成的肌肉记忆叫做模型,这就是监督学习的过程。

定义:训练数据只包含输入样本,没有相应的标签或目标。

包装一下:我们没有拿草泥马和牛马的照片对机器进行系统的训练,机器也不知道这两个马儿长什么样,而是直接让机器对这两个马儿进行分类。这就是无监督学习。

如图所示,左图是无监督学习的过程,虽然数据被分成了两类,但是没有对应的数据标签,统一用蓝色的圆点表示,这更像是把具有相同的特征的数据聚集在一起,所以无监督学习实现分类的算法又叫做聚类。右图是监督学习中二分类的过程,标签在图中体现为三角和圆。

无监督学习的关键优势是它可以在没有人工标签的情况下自动从大量未标记的数据中获取知识。这使得无监督学习在数据探索、数据预处理和模式发现方面具有广泛的应用。它也可以用作监督学习的预处理步骤,以减少标记数据的需求或改善模型的性能。缺点是无监督学习的性能很大程度上依赖于输入数据的质量和特征。如果数据存在噪声、缺失值或异常值,这些因素可能会对模型的性能产生负面影响。

监督学习的优势是使用标记的训练数据来指导模型的学习过程,因此可以获得相对准确的预测结果。通过与真实标签进行比较,模型可以进行纠正和优化,提高预测的准确性。缺点是监督学习模型在训练阶段是通过学习训练数据的模式和规律来进行预测。如果模型在训练数据上过度拟合,可能在新的未见过的数据上表现不佳,泛化能力受到限制。

为了综合两者的优点,半监督学习诞生了。半监督学习是介于监督学习和无监督学习之间的一种机器学习方法。在半监督学习中,模型使用同时包含标记和未标记样本的训练数据进行学习。

半监督学习的优势在于:

线性回归是一种用于建立自变量(输入)和因变量(输出)之间线性关系的模型,其重点如下:

下面通过图来更加直观的看线性回归问题:X—房屋面积;—面积和价格对应的数据;Y—房屋价格;弧线—线性映射模型;

如果我们想要房屋面积对应的价格的话,通过这个线性回归模型,就可以很快的进行预测,这就是线性回归的整个过程。代码如下(示例):

importnumpyasnpfromsklearn.linear_modelimportLinearRegression#输入数据X=np.array([[1],[2],[3],[4],[5]])y=np.array([2,4,6,8,10])#创建线性回归模型model=LinearRegression()#拟合模型model.fit(X,y)#预测X_test=np.array([[6],[7]])y_pred=model.predict(X_test)#输出预测结果print(y_pred)1.2逻辑回归算法逻辑回归实际上是一种分类算法,它的输出是一个概率值,表示样本属于某个类别的概率。逻辑回归模型的数学表示如下:

逻辑回归实际上是一种分类算法,它的输出是一个概率值,表示样本属于某个类别的概率。逻辑回归模型的数学表示如下:

hθ(x)>=g(θ^T*x)其中,hθ(x)表示预测函数,g(z)表示逻辑函数(Sigmoid函数),θ是模型参数,x是输入特征向量。

g(z)>=1/(1+e^(-z))其中,e表示自然指数,z是线性回归模型的输出。

J(θ)=-1/m*∑[y*log(hθ(x))+(1-y)*log(1-hθ(x))]其中,m表示样本数量,y表示实际标签

importnumpyasnpfromsklearn.linear_modelimportLogisticRegression#输入数据X=np.array([[1],[2],[3],[4],[5]])y=np.array([0,0,1,1,1])#创建逻辑回归模型model=LogisticRegression()#拟合模型model.fit(X,y)#预测X_test=np.array([[6],[7]])y_pred=model.predict(X_test)#输出预测结果print(y_pred)1.3决策树算法决策树算法用于解决分类和回归问题。它通过构建一棵树形结构来进行决策,每个内部节点表示一个特征或属性(色泽和触感),每个叶节点表示一个类别或一个数值(好瓜、坏瓜)。

常见的决策树算法有ID3、C5.0和CART,CART的分类效果一般要优于其他决策树。

ID3的核心思想是基于信息增益来选择最优的特征进行节点的划分。

THE END
1.人工智能监督学习算法监督学习算法是机器学习中的一种方法,它通过使用标记的训练数据来学习一个模型,该模型能够对新的、未见过的数据进行预测或决策。在监督学习中,每个训练样本都包含输入变量(通常表示为特征)和期望的输出变量(也称为标签或目标)。算法的目标是学习输入和输出之间的映射关系,以便能够准确预测新样本的输出。 https://blog.csdn.net/xiaoyingxixi1989/article/details/141904659
2.开发监督学习最常见的五种算法,你知道几个?在机器学习中,无监督学习(Unsupervised learning)就是聚类,事先不知道样本的类别,通过某种办法,把相似的样本放在一起归位一类;而监督型学习(Supervised learning)就是有训练样本,带有属性标签,也可以理解成样本有输入有输出。 所有的回归算法和分类算法都属于监督学习。回归(Regression)和分类(Classification)的算法区别在于https://cloud.tencent.com/developer/article/1057751
3.?以下哪些机器学习算法是有监督学习算法?中央全面深化改革领导小组第三十五次会议指出,()是生态文明建设和环境保护的重要基础。要把()、()、()放在重要位置,采取最规范的科学方法、最严格的质控手段、最严厉的惩戒措施,深化环境监测改革,建立环境监测数据弄虚作假防范和惩治机制,确保环境监测数据全面、准确、客观、真实。https://www.shuashuati.com/ti/59389c6f18d6495fbffe7e741df8b4ab.html
4.监督学习有哪些常见算法?都是如何应用的监督学习有哪些常见算法?都是如何应用的 掌握一些最常用的监督学习算法能够帮助我们解决实际问题,本文将通过很多实例进行详细介绍。 ?什么是监督学习? 监督学习是机器学习的子集,监督学习会对机器学习模型的输入数据进行标记,并对其进行练习。因此,监督模型能最大限度地预测模型的输出结果。https://www.51cto.com/article/712484.html
5.BAT机器学习面试1000题系列(二)面试笔试整理3:深度学习机器学习面试问题准备(必会) 105.当机器学习性能遭遇瓶颈时,你会如何优化的? 可以从这4个方面进行尝试:基于数据、借助算法、用算法调参、借助模型融合。当然能谈多细多深入就看你的经验心得了。 这里有一份参考清单:机器学习系列(20)_机器学习性能改善备忘单 https://www.jianshu.com/p/4a7f7127eef1
6.2机器学习常见类型(算法种类)机器学习算法可以分为有监督学习文章主要介绍了机器学习的常见类型,包括监督学习、无监督学习、强化学习。监督学习是利用有“正确答案”的数据集训练模型进行预测,有回归和分类问题;无监督学习是从无标签或相同标签的数据中找结构,如聚类;强化学习是根据环境状态决定动作以获取最大收益。还介绍了相关算法的历史及典型应用等。 https://juejin.cn/post/7256975111563411513
7.前沿:机器学习在金融和能源经济领域的应用分类总结该文献(见文后reference)通过对2005年-2018年间发表的130多篇论文进行梳理分析表明,支持向量机(SVM)、人工神经网络(ANN)和遗传算法(GAs)是能源经济学论文中最常用的方法。同时,文章还对机器学习的方法、应用、优缺点以及未来可以拓展的领域进行了细致的总结。主要聚焦于以下几个问题:1、哪些方法在能源经济学中被频繁http://www.360doc.com/content/20/0526/21/45289182_914727499.shtml
8.机器学习(二)之无监督学习:数据变换聚类分析无监督学习算法只有输入数据,而没有已知的输出标签(label),我们需要从这些数据中学习到信息。常见的无监督学习包括数据集变换和聚类。 数据集的无监督变换(unsupervised transformation)是创建数据新的表示的算法,与数据的原始表示相比,新的表示可能更容易被人或其他机器学习算法所理解。无监督变换的一个常见应用是降维(https://www.flyai.com/article/516
9.机器学习中的有监督和无监督都包括些什么?机器学习算法通常分为有监督的(训练数据有标记答案)和无监督的(可能存在的任何标签均未显示在训练算法中)。有监督的机器学习问题又分为分类(预测非数字答案,例如错过抵押贷款的可能性)和回归(预测数字答案,例如下个月在曼哈顿商店出售的小部件的数量)。 https://www.cda.cn/view/27593.html
10.2021届计算机科学方向毕业设计(论文)阶段性汇报在本阶段,我们主要的工作进展有以下几点:1.为了提高实验效率,我们搭建了可用于多机器并行的训练框架,并基于此复现了传统的强化学习算法,为之后的实验提供对比。 2.基于之前的工作调研结果,提出了基于深度强化学习的多能体拟人化方法。 朱茂生 基于多模态机器学习的生存风险预测方法 研究内容及进度摘要:我在第一次https://zhiyuan.sjtu.edu.cn/html/zhiyuan/announcement_view.php?id=3943
11.AI知识点汇总人工智能电脑百科分类:按学习方式可以分为监督学习(包括半监督学习)、无监督学习、强化学习、迁移学习。 2.2 监督学习 概念:机器学习的一种,通过学习许多有标签的样本,得到特征值和标记值之间的对应规律,然后对新的数据做出预测。 分类:根据输入数据x预测出输出数据y,如果y是整数的类别编号,则称为分类问题,算法包括:决策树、随机森https://www.isolves.com/it/ai/2022-02-21/50223.html
12.哪些算法用于解决深度学习问题6、常用的无监督学习算法主要有三种:聚类、离散点检测和降维,包括主成分分析方法PCA等,等距映射方法、局部线性嵌入方法、拉普拉斯特征映射方法、黑塞局部线性嵌入方法和局部切空间排列方法等。简述深度学习的基本方法。深度学习算法以下三种:回归算法。回归算法是试图采用对误差的衡量来探索变量之间的关系的https://zhidao.baidu.com/question/443445629766969884.html
13.一周AI最火论文模型是否遗忘了我删除的数据?这个算法可以评估!本周关键词:新冠数据、无监督学习、3D人脸检测 本周最火学术研究 一种评估机器学习模型是否遗忘了数据的方法 考虑以下场景:有几个提供者,正计划为开发深度学习模型来解决分类任务提供数据。突然,提供者之一决定离开并要求删除数据,但更大的问题是,怎么确保该模型“忘记”这份数据。 https://news.hexun.com/2020-04-27/201164779.html