机器学习机器学习算法有哪些？最常用是哪些几种？有什么优点

人工智能，机器学习和深度学习之间的区别和联系

从2015年下半年开始，“人工智能(AI)”一词逐渐出现在了大众的视野当中。

近两年来，无论是资本、政府或是民众，对人工智能的关注持续升温：各类人工智能相关创业公司纷纷获得可观的融资，政府的工作报告中多次提到“人工智能”，百度的搜索指数也反映了这一趋势。

不过，“人工智能”并不是自己一个人火起来的，他还有两个形影不离的队友：“机器学习”与“深度学习”。

这三个词如同天团组合一般，出现在各种地方，有时甚至互为化身。

那么问题来了，人工智能、机器学习、深度学习三者到底是什么关系？它们之间有什么联系与区别？我们这里不干劈概念，从人工智能的发展历程说起。

人工智能的前世今身 1956年夏天，以麦卡锡(John McCarthy)、明斯基(Marvin Minsky)、罗切斯特(Nathaniel Rochester)和香农(Claude Shannon)等为首的一批年轻科学家相聚达特茅斯，共同研究和探讨用机器模拟智能的一系列有关问题（史称“达特茅斯会议”）。

在那次会议上，“人工智能”一词被提出，也标志着“人工智能”这门新兴学科的正式诞生。

当时的人工智能研究处于“推理期”，人们认为只要能赋予机器逻辑推理的能力，机器就会具有智能。

当时的研究的确取得了一定的成果，比如证明了不少数学定理，部分定理的证明方式甚至比数学家的更为巧妙。

然而，人类的智能不仅来源于逻辑推理能力，也来源于大量经验和知识。

比方说假如我从未坐过飞机也从未给别人买过机票，当你问我明天飞北京的机票多少钱，我估计会懵逼，连查携程都不知道，从而显得不那么“智能”，但其实我的推理能力并没有掉线。

从20世纪70年代开始，人工智能研究进入了“知识期”，人们希望在推理的基础上，把各领域的知识总结起来告诉机器，让它获得智能。

当时大量的专家系统（具有大量的专门知识与经验的程序系统，可进行推理和判断，模拟人类专家的决策过程）问世，在很多应用领域取得了不少成果。

但人们很快认识到，把知识总结起来教给机器是非常困难的（称为“知识工程瓶颈”），因为人类的知识实在太多，还得把这些知识写成机器能够理解的形式。

如果我们能够只给机器一些相对原始的数据，然后让机器自己去进行学习，那该多好。

所以从20世纪80年代开始，机器学习这一技术路线逐渐主导了人工智能的研究，直到现在。

什么是机器学习 机器学习可以理解为机器从已知的经验数据（样本）中，通过某种特定的方法（算法），自己去寻找提炼（训练/学习）出一些规律（模型）；提炼出的规律就可以用来判断一些未知的事情（预测）。

比如我们接触了1w只单身汪（已知样本），通过归纳总结与比较（算法）找出TA们身上一些共性特点，然后将这些共性特点作为判断单身汪的依据（模型），那么下次遇到一个人（未知样本），就可以判断TA是不是单身了（预测）。

既然是从一堆已知的样本中找规律，那么找规律的方式以及找出的规律的形态就会因人而异，也就是算法与模型都可能会有所不同。

所以，机器学习本身也是分为不同流派的，每种流派都有它代表性的模型与算法。

机器学习主要分为符号主义学习（以决策树模型与相关算法为代表）、连接主义学习（以神经网络模型与相关算法为代表）与统计学习（以支持向量机与相关算法为代表）。

符号主义学习与连接主义学习在20世纪80年代至90年代中期非常流行，统计学习则从90年代中期开始迅速占据舞台。

值得一提的是，为判断一个人是否为单身汪而找出的一系列特征规律其实就是一棵决策树。

深度学习的崛起 进入21世纪之后，互联网与移动互联网的兴起造成了数据量的爆发式增长，云计算也使得计算能力大幅增强，同时神经网络的相关算法也逐渐成熟，所以导致连接主义的代表——神经网络卷土重来。

再次归来的神经网络，往往拥有比原先更为庞大的网络层级结构，所以被称为“深度神经网络”。

由于有足够的训练数据和计算能力，深度神经网络在很多（尤其是语音处理、自然语言处理、图像处理等较为复杂的）任务中取得了非常优异的性能。

性能的突破促成了人工智能在语音识别、文本翻译、人脸识别等一系列场景的应用，让大家看到了新技术落地所带来的经济效益与想象空间，从而引起了人工智能的热潮。

总结 说了这么多，下面用一幅图来说明人工智能的技术流派类别与演变历程。

要注意的是，虽然人工智能的流派在不断演变，但这并非说明过去的技术路线就被抛弃了。

这更像是以实际应用为导向的各领风骚——在一个时代，某种技术流派正好能够较好地解决这个时代所需要去解决的实际产业问题，那么自然就会流行。

目前有很多不同的机器学习技术正应用于各自适合的场景，比如作为统计学习代表的支持向量机，仍然是文本分类任务的首选技术。

最后来回答文章题目中的问题。

人工智能是一个大的概念，是研究如何使机器获得智能的学科；机器学习是人工智能中的一个技术流派，通过从已知样本中提炼规律来获得判断未知样本的“智能”；深度学习则是机器学习的一种，它所学习出来的模型是深度神经网络。

）在机器学习中很重要吗

机器学习是一种数据分析方法，它可以自动分析模型的建立。

使用迭代学习数据的算法，机器学习可以使电脑在没有被明确编程看哪里时，发现隐藏的领域。

迭代在机器学习中是非常重要的，因为有了它的存在，模型在遇到新的数据时，便能够独立地适应数据。

它们可以从先前产生的可靠计算，重复的决定和结果中进行学习。

机器学习并不是一个全新的学科-而是获得新动力的学科。

由于新型计算技术的产生，如今的机器学习与以往大不相同。

尽管很多机器学习算法已经存在了很长时间，但自动将复杂的数学计算应用到大数据的能力（一个又一个，越来越快）是最新的进展。

下面这些广泛宣传的机器学习应用程序的例子，你可能非常熟悉

机器学习的基本结构

表示学习系统的基本结构。

环境向系统的学习部分提供某些信息，学习部分利用这些信息修改知识库，以增进系统执行部分完成任务的效能，执行部分根据知识库完成任务，同时把获得的信息反馈给学习部分。

在具体的应用中，环境，知识库和执行部分决定了具体的工作内容，学习部分所需要解决的问题完全由上述3部分确定。

下面我们分别叙述这3部分对设计学习系统的影响。

影响学习系统设计的最重要的因素是环境向系统提供的信息。

或者更具体地说是信息的质量。

知识库里存放的是指导执行部分动作的一般原则，但环境向学习系统提供的信息却是各种各样的。

如果信息的质量比较高，与一般原则的差别比较小，则学习部分比较容易处理。

如果向学习系统提供的是杂乱无章的指导执行具体动作的具体信息，则学习系统需要在获得足够数据之后，删除不必要的细节，进行总结推广，形成指导动作的一般原则，放入知识库，这样学习部分的任务就比较繁重，设计起来也较为困难。

因为学习系统获得的信息往往是不完全的，所以学习系统所进行的推理并不完全是可靠的，它总结出来的规则可能正确，也可能不正确。

这要通过执行效果加以检验。

正确的规则能使系统的效能提高，应予保留；不正确的规则应予修改或从数据库中删除。

知识库是影响学习系统设计的第二个因素。

知识的表示有多种形式，比如特征向量、一阶逻辑语句、产生式规则、语义网络和框架等等。

这些表示方式各有其特点，在选择表示方式时要兼顾以下4个方面： (1)表达能力强。

(2)易于推理。

(3)容易修改知识库。

(4)知识表示易于扩展。

对于知识库最后需要说明的一个问题是学习系统不能在全然没有任何知识的情况下凭空获取知识，每一个学习系统都要求具有某些知识理解环境提供的信息，分析比较，做出假设，检验并修改这些假设。

因此，更确切地说，学习系统是对现有知识的扩展和改进。

执行部分是整个学习系统的核心，因为执行部分的动作就是学习部分力求改进的动作。

同执行部分有关的问题有3个：复杂性、反馈和透明性。

机器学习算法和深度学习的区别？

一、指代不同 1、机器学习算法：是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。

2、深度学习：是机器学习(ML, Machine Learning)领域中一个新的研究方向，它被引入机器学习使其更接近于最初的目标人工智能。

二、学习过程不同 1、机器学习算法：学习系统的基本结构。

环境向系统的学习部分提供某些信息，学习部分利用这些信息修改知识库，以增进系统执行部分完成任务的效能，执行部分根据知识库完成任务，同时把获得的信息反馈给学习部分。

2、深度学习：通过设计建立适量的神经元计算节点和多层运算层次结构，选择合适的输人层和输出层，通过网络的学习和调优，建立起从输入到输出的函数关系，虽然不能100%找到输入与输出的函数关系，但是可以尽可能的逼近现实的关联关系。

三、应用不同 1、机器学习算法：：数据挖掘、计算机视觉、自然语言处理、生物特征识别、搜索引擎、医学诊断、DNA序列测序、语音和手写识别、战略游戏和机器人运用。

2、深度学习：计算机视觉、语音识别、自然语言处理等其他领域。

参考资料来源：百度百科-机器学习算法 参考资料来源：百度百科-深度学习

机器学习的类型有哪些

基于学习策略的分类　 学习策略是指学习过程中系统所采用的推理策略。

一个学习系统总是由学习和环境两部分组成。

由环境（如书本或教师）提供信息，学习部分则实现信息转换，用能够理解的形式记忆下来，并从中获取有用的信息。

在学习过程中，学生（学习部分）使用的推理越少，他对教师（环境）的依赖就越大，教师的负担也就越重。

学习策略的分类标准就是根据学生实现信息转换所需的推理多少和难易程度来分类的，依从简单到复杂，从少到多的次序分为以下六种基本类型： 1）机械学习 (Rote learning) 学习者无需任何推理或其它的知识转换，直接吸取环境所提供的信息。

如塞缪尔的跳棋程序，纽厄尔和西蒙的LT系统。

这类学习系统主要考虑的是如何索引存贮的知识并加以利用。

系统的学习方法是直接通过事先编好、构造好的程序来学习，学习者不作任何工作，或者是通过直接接收既定的事实和数据进行学习，对输入信息不作任何的推理。

2）示教学习 (Learning from instruction或Learning by being told) 学生从环境（教师或其它信息源如教科书等）获取信息，把知识转换成内部可使用的表示形式，并将新的知识和原有知识有机地结合为一体。

所以要求学生有一定程度的推理能力，但环境仍要做大量的工作。

教师以某种形式提出和组织知识，以使学生拥有的知识可以不断地增加。

这种学习方法和人类社会的学校教学方式相似，学习的任务就是建立一个系统，使它能接受教导和建议，并有效地存贮和应用学到的知识。

不少专家系统在建立知识库时使用这种方法去实现知识获取。

示教学习的一个典型应用例是FOO程序。

3）演绎学习 (Learning by deduction) 学生所用的推理形式为演绎推理。

推理从公理出发，经过逻辑变换推导出结论。

这种推理是"保真"变换和特化(specialization)的过程，使学生在推理过程中可以获取有用的知识。

这种学习方法包含宏操作(macro-operation)学习、知识编辑和组块(Chunking)技术。

演绎推理的逆过程是归纳推理。

4）类比学习 (Learning by analogy) 利用二个不同领域（源域、目标域）中的知识相似性，可以通过类比，从源域的知识（包括相似的特征和其它性质）推导出目标域的相应知识，从而实现学习。

类比学习系统可以使一个已有的计算机应用系统转变为适应于新的领域，来完成原先没有设计的相类似的功能。

类比学习需要比上述三种学习方式更多的推理。

它一般要求先从知识源（源域）中检索出可用的知识，再将其转换成新的形式，用到新的状况（目标域）中去。

类比学习在人类科学技术发展史上起着重要作用，许多科学发现就是通过类比得到的。

例如著名的卢瑟福类比就是通过将原子结构（目标域）同太阳系（源域）作类比，揭示了原子结构的奥秘。

5）基于解释的学习 (Explanation-based learning, EBL) 学生根据教师提供的目标概念、该概念的一个例子、领域理论及可操作准则，首先构造一个解释来说明为什该例子满足目标概念，然后将解释推广为目标概念的一个满足可操作准则的充分条件。

EBL已被广泛应用于知识库求精和改善系统的性能。

著名的EBL系统有迪乔恩（G.DeJong）的GENESIS,米切尔（T.Mitchell）的LEXII和LEAP, 以及明顿（S.Minton）等的PRODIGY。

6）归纳学习 (Learning from induction) 归纳学习是由教师或环境提供某概念的一些实例或反例，让学生通过归纳推理得出该概念的一般描述。

这种学习的推理工作量远多于示教学习和演绎学习，因为环境并不提供一般性概念描述（如公理）。

从某种程度上说，归纳学习的推理量也比类比学习大，因为没有一个类似的概念可以作为"源概念"加以取用。

归纳学习是最基本的，发展也较为成熟的学习方法，在人工智能领域中已经得到广泛的研究和应用。

基于所获取知识的表示形式分类　 学习系统获取的知识可能有：行为规则、物理对象的描述、问题求解策略、各种分类及其它用于任务实现的知识类型。

对于学习中获取的知识，主要有以下一些表示形式： 1）代数表达式参数 学习的目标是调节一个固定函数形式的代数表达式参数或系数来达到一个理想的性能。

2）决策树 用决策树来划分物体的类属，树中每一内部节点对应一个物体属性，而每一边对应于这些属性的可选值，树的叶节点则对应于物体的每个基本分类。

3）形式文法 在识别一个特定语言的学习中，通过对该语言的一系列表达式进行归纳，形成该语言的形式文法。

4）产生式规则 产生式规则表示为条件—动作对，已被极为广泛地使用。

学习系统中的学习行为主要是：生成、泛化、特化（Specialization）或合成产生式规则。

5）形式逻辑表达式 形式逻辑表达式的基本成分是命题、谓词、变量、约束变量范围的语句，及嵌入的逻辑表达式。

6）图和网络 有的系统采用图匹配和图转换方案来有效地比较和索引知识。

7）框架和模式（schema） 每个框架包含一组槽，用于描述事物（概念和个体）的各个方面。

8）计算机程序和其它的过程编码 获取这种形式的知识，目的在于取得一种能实现特定过程的能力，而不是为了推断该过程的内部结构。

9）神经网络 这主要用在联接学习中。

学习所获取的知识，最后归纳为一个神经网络。

10）多种表示形式的组合 有时一个学习系统中获取的知识需要综合应用上述几种知识表示形式。

根据表示的精细程度，可将知识表示形式分为两大类：泛化程度高的粗粒度符号表示、??泛化程度低的精粒度亚符号(sub-symbolic)表示。

像决策树、形式文法、产生式规则、形式逻辑表达式、框架和模式等属于符号表示类；而代数表达式参数、图和网络、神经网络等则属亚符号表示类。

按应用领域分类　 最主要的应用领域有：专家系统、认知模拟、规划和问题求解、数据挖掘、网络信息服务、图象识别、故障诊断、自然语言理解、机器人和博弈等领域。

从机器学习的执行部分所反映的任务类型上看，大部分的应用研究领域基本上集中于以下两个范畴：分类和问题求解。

（1）分类任务要求系统依据已知的分类知识对输入的未知模式（该模式的描述）作分析，以确定输入模式的类属。

相应的学习目标就是学习用于分类的准则（如分类规则）。

（2）问题求解任务要求对于给定的目标状态,??寻找一个将当前状态转换为目标状态的动作序列；机器学习在这一领域的研究工作大部分集中于通过学习来获取能提高问题求解效率的知识（如搜索控制知识，启发式知识等）。

综合分类 综合考虑各种学习方法出现的历史渊源、知识表示、推理策略、结果评估的相似性、研究人员交流的相对集中性以及应用领域等诸因素。

将机器学习方法[1] ?区分为以下六类： 1）经验性归纳学习 (empirical inductive learning) 经验性归纳学习采用一些数据密集的经验方法（如版本空间法、ID3法，定律发现方法）对例子进行归纳学习。

其例子和学习结果一般都采用属性、谓词、关系等符号表示。

它相当于基于学习策略分类中的归纳学习，但扣除联接学习、遗传算法、加强学习的部分。

2）分析学习（analytic learning） 分析学习方法是从一个或少数几个实例出发，运用领域知识进行分析。

其主要特征为： ·推理策略主要是演绎，而非归纳； ·使用过去的问题求解经验（实例）指导新的问题求解，或产生能更有效地运用领域知识的搜索控制规则。

分析学习的目标是改善系统的性能，而不是新的概念描述。

分析学习包括应用解释学习、演绎学习、多级结构组块以及宏操作学习等技术。

3）类比学习 它相当于基于学习策略分类中的类比学习。

在这一类型的学习中比较引人注目的研究是通过与过去经历的具体事例作类比来学习，称为基于范例的学习(case_based learning)，或简称范例学习。

4）遗传算法（ic algorithm） 遗传算法模拟生物繁殖的突变、交换和达尔文的自然选择（在每一生态环境中适者生存）。

它把问题可能的解编码为一个向量，称为个体，向量的每一个元素称为基因，并利用目标函数（相应于自然选择标准）对群体（个体的集合）中的每一个个体进行评价，根据评价值（适应度）对个体进行选择、交换、变异等遗传操作，从而得到新的群体。

遗传算法适用于非常复杂和困难的环境，比如，带有大量噪声和无关数据、事物不断更新、问题目标不能明显和精确地定义，以及通过很长的执行过程才能确定当前行为的价值等。

同神经网络一样，遗传算法的研究已经发展为人工智能的一个独立分支，其代表人物为霍勒德（J.H.Holland）。

5）联接学习 典型的联接模型实现为人工神经网络，其由称为神经元的一些简单计算单元以及单元间的加权联接组成。

6）增强学习（reinforcement learning） 增强学习的特点是通过与环境的试探性（trial and error）交互来确定和优化动作的选择，以实现所谓的序列决策任务。

在这种任务中，学习机制通过选择并执行动作，导致系统状态的变化，并有可能得到某种强化信号（立即回报），从而实现与环境的交互。

强化信号就是对系统行为的一种标量化的奖惩。

系统学习的目标是寻找一个合适的动作选择策略，即在任一给定的状态下选择哪种动作的方法，使产生的动作序列可获得某种最优的结果（如累计立即回报最大）。

在综合分类中,经验归纳学习、遗传算法、联接学习和增强学习均属于归纳学习，其中经验归纳学习采用符号表示方式，而遗传算法、联接学习和加强学习则采用亚符号表示方式；分析学习属于演绎学习。

实际上，类比策略可看成是归纳和演绎策略的综合。

因而最基本的学习策略只有归纳和演绎。

从学习内容的角度看，采用归纳策略的学习由于是对输入进行归纳，所学习的知识显然超过原有系统知识库所能蕴涵的范围,所学结果改变了系统的知识演绎闭包, 因而这种类型的学习又可称为知识级学习;而采用演绎策略的学习尽管所学的知识能提高系统的效率，但仍能被原有系统的知识库所蕴涵,即所学的知识未能改变系统的演绎闭包,因而这种类型的学习又被称为符号级学习。

学习形式分类 1）监督学习(supervised learning) 监督学习，即在机械学习过程中提供对错指示。

一般实在是数据组中包含最终结果（0，1）。

通过算法让机器自我减少误差。

这一类学习主要应用于分类和预测 (regression & classify)。

监督学习从给定的训练数据集中学习出一个函数，当新的数据到来时，可以根据这个函数预测结果。

监督学习的训练集要求是包括输入和输出，也可以说是特征和目标。

训练集中的目标是由人标注的。

常见的监督学习算法包括回归分析和统计分类。

2）非监督学习(unsupervised learning) 非监督学习又称归纳性学习（clustering）利用K方式(Kmeans)，建立中心（centriole），通过循环和递减运算(iteration&descent)来减小误差，达到分类的目的。

机器学习算法有哪些？最常用是哪些几种？有什么优点

楼主肯定对机器学习了解不多才会提这种问题。

这问题专业程度看起来和“机器学习工程师”这词汇一样。

机器学习，基础的PCA模型理论，贝叶斯，boost,Adaboost, 模式识别中的各种特征，诸如Hog，Haar,SIFT等 深度学习里的DBN，CNN，BP，RBM等等。

非专业出身，只是略懂一点。

没有常用的，只是针对需求有具体的设计，或者需要自己全新设计一个合适的算法，现在最热门的算是CNN(convolutional works)卷积神经网络了。

优点:不需要训练获取特征，在学习过程中自动提取图像中的特征，免去了常规方法中，大量训练样本的时间。

在样本足够大的情况下，能够得到非常精确的识别结果。

一般都能95%+的正确率。

缺点：硬件要求高，CUDA的并行框架算是用的很火的了。

但是一般的台式机跑一个Demo花费的时间长资源占用高。

不过这也是这块算法的通病。