什么是深度学习一页纸说清楚“什么是深度学

什么是深度学习

深度学习的概念源于人工神经网络的研究。

含多隐层的多层感知器就是一种深度学习结构。

深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征，以发现数据的分布式特征表示。

深度学习的概念由Hinton等人于2006年提出。

基于深信度网(DBN)提出非监督贪心逐层训练算法，为解决深层结构相关的优化难题带来希望，随后提出多层自动编码器深层结构。

此外Lecun等人提出的卷积神经网络是第一个真正多层结构学习算法，它利用空间相对关系减少参数数目以提高训练性能。

深度学习是机器学习研究中的一个新的领域，其动机在于建立、模拟人脑进行分析学习的神经网络，它模仿人脑的机制来解释数据，例如图像，声音和文本。

同机器学习方法一样，深度机器学习方法也有监督学习与无监督学习之分．不同的学习框架下建立的学习模型很是不同．例如，卷积神经网络（Convolutional works，简称CNNs）就是一种深度的监督学习下的机器学习模型，而深度置信网（Deep Belief Nets，简称DBNs）就是一种无监督学习下的机器学习模型。

深度不足会出现问题 在许多情形中深度2就足够表示任何一个带有给定目标精度的函数。

但是其代价是：图中所需要的节点数(比如计算和参数数量)可能变的非常大。

理论结果证实那些事实上所需要的节点数随着输入的大小指数增长的函数族是存在的。

我们可以将深度架构看做一种因子分解。

大部分随机选择的函数不能被有效地表示，无论是用深的或者浅的架构。

但是许多能够有效地被深度架构表示的却不能被用浅的架构高效表示。

一个紧的和深度的表示的存在意味着在潜在的可被表示的函数中存在某种结构。

如果不存在任何结构，那将不可能很好地泛化。

大脑有一个深度架构 例如，视觉皮质得到了很好的e79fa5e98193e78988e69d8331333365656531研究，并显示出一系列的区域，在每一个这种区域中包含一个输入的表示和从一个到另一个的信号流(这里忽略了在一些层次并行路径上的关联，因此更复杂)。

这个特征层次的每一层表示在一个不同的抽象层上的输入，并在层次的更上层有着更多的抽象特征，他们根据低层特征定义。

需要注意的是大脑中的表示是在中间紧密分布并且纯局部：他们是稀疏的：1%的神经元是同时活动的。

给定大量的神经元，仍然有一个非常高效地(指数级高效)表示。

认知过程逐层进行，逐步抽象 人类层次化地组织思想和概念； 人类首先学习简单的概念，然后用他们去表示更抽象的； 工程师将任务分解成多个抽象层次去处理； 学习/发现这些概念(知识工程由于没有反省而失败？)是很美好的。

对语言可表达的概念的反省也建议我们一个稀疏的表示：仅所有可能单词/概念中的一个小的部分是可被应用到一个特别的输入(一个视觉场景)。

核心思想 把学习结构看作一个网络，则深度学习的核心思路如下： ①无监督学习用于每一层网络的pre-train； ②每次用无监督学习只训练一层，将其训练结果作为其高一层的输入； ③用自顶而下的监督算法去调整所有层

深度学习和cnn有什么区别？

应该说，CNN（convolutional work）只是深度学习中的一种算法，并且由于_5等模型的原因目前应用较为广泛。

其实，除了CNN之外，深度学习中还有其他的网络算法，比如Hinton的DBNs，对于语音和自然语言处理还是不错的，CNN目前主要应用于图像识别和图像分类

深度学习的“深度”有什么意义

到底什么是深度学习？ 它是涵盖了建立和训练神经网络的特殊方法的一个术语。

神经网络最早在上世纪五十年代被提出，就像核聚变一样，他们曾是很有前途但很不可思议的实验室想法，迟迟未能在实际中应用。

我会在稍后章节详细介绍神经网络是如何工作的，现在你可以把它当作一个作出决策的黑盒子。

它们以一个数组作为输入（数组可以代表像素，音频微波，或者单词），在这个数组上运行一系列的函数，输出一个或多个数字。

输出结果一般是对你试图从输入中得出的一些特性的预测，例如一张图片上画的是不是一只猫。

在黑盒子里运行的功能是由神经网络的内存控制的，权重数组负责决定如何将输入数据进行组合和重组来生成结果。

像猫检测这样的实际问题，在处理时需要非常复杂的功能，也就是说它的这些权重数组会非常大。

一个最近的计算机视觉网络问题，其权重数组包含大约6千万的数据。

使用神经网络的一个最大的障碍是如何给这些巨大的数组赋值，才能很好的将输入信号转换成输出的预测结果。

训练 研究人员一直致力于训练神经网络，主要原因是神经网络理论上是可教的。

在小规模的问题上，根据一系列的样本输入和期望输出，通过机械加工，让权重从一开始的随机数逐步变成可以提供更精准的预测的数字，是一个非常简单的过程。

问题的关键是如何在更复杂的问题上做好这件事，比如语音识别或计算机视觉这些权重数量巨大的问题。

这是在2012 Paper会议引发神经网络复兴以来的一个真正突破。

Alex Krizhevsky，Ilya Sutskever 和Geoff Hinton将很多不同的加速学习的程序汇集在一起，包括卷积网络(works)，巧妙运用GPU，和一些新的数学计算技巧比如如ReLU和dropout，结果显示，他们可以在几周内训练出一个非常复杂的网络，并且这个网络在计算机视觉上可以达到与以往很出色的传统方法几乎一样的效果。

这并不是一个单独的或偶然的事件，类似的方法已经在自然语言处理和语音识别上得到了很成功的应用。

这就是深度学习的核心－－这种新技术让我们可以搭建和训练神经网络来解决以前无法解决的问题。

与其它方法的有何不同？ 大多数机器学习方法的困难点在于从原始输入数据中识别出特征，比如用于识别图片的SIFT或SURF。

而深度学习去掉了这一环节，改为用训练过程从输入样本中发觉最有用的模式（pattern）。

虽然开始前你仍需要对网络的内部布局做出选择，但自动挖掘特征已经让一切容易了很多。

另一方面，神经网络比其它机器学习技术更通用。

我已经成功的使用原来的work识别它从未被训练过的对象，甚至其它图片相关的任务比如现场分析（scene-type analysis）。

底层的架构和训练网络的技术对所有自然数据，如音频，地震传感器或自然语言等，都通用。

没有任何其他方法可以如此灵活。

为什么要深入研究？ 最根本的原因是深度学习做的非常好，如果你处理过杂乱的真实数据，那么在未来几年这将是你工具包里的基本要素。

直到最近，他才被当作晦涩的令人生畏的领域来学习，但是它的成功带来了极为丰富的资源和项目，使得学习神经网络变得比以往简单很多。

我很期待带领你一起学习其中一部分，深入研究网络的内部工作原理，在我们一起体验这项新技术的同时能够有一些有趣的探索。

人工智能，机器学习和深度学习的区别是什么

这三个概念比较抽象，现在来用通俗的方式解释一下。

通过一个经典的例子来解释人工智能、机器学习和深度学习之间的区别：比较苹果和橙子。

1、人工智能 从广义上讲，人工智能描述一种机器与周围世界交互的各种方式。

通过先进的、像人类一样的智能——软件和硬件结合的结果——一台人工智能机器或设备就可以模仿人类的行为或像人一样执行任务。

2、机器学习 机器学习是人工智能的一种途径或子集，它强调“学习”而不是计算机程序。

一台机器使用复杂的算法来分析大量的数据，识别数据中的模式，并做出一个预测——不需要人在机器的软件中编写特定的指令。

在错误地将奶油泡芙当成橙子之后，系统的模式识别会随着时间的推移而不断改进，因为它会像人一样从错误中吸取教训并纠正自己。

通过机器学习，一个系统可以从自身的错误中学习来提高它的模式识别能力。

3、深度学习 深度学习是机器学习的一个子集，推动计算机智能取得长足进步。

它用大量的数据和计算能力来模拟深度神经网络。

从本质上说，这些网络模仿人类大脑的连通性，对数据集进行分类，并发现它们之间的相关性。

如果有新学习的知识(无需人工干预)，机器就可以将其见解应用于其他数据集。

机器处理的数据越多，它的预测就越准确。

例如，一台深度学习的设备可以检查大数据——比如通过水果的颜色、形状、大小、成熟时间和产地——来准确判断一个苹果是不是青苹果，一个橙子是不是血橙。

深度学习到底是什么 人工智能吧

人工智能涉及到的领域比较多，深度学习是其中一种比较热门的方法，比如下围棋涉及到的评估棋盘局势和一步棋价值的方法是深度学习，整个下棋过程该如何选择所用到的蒙特卡洛树，剪枝算法等，不是深度学习。

一页纸说清楚“什么是深度学

深度学习是机器学习研究中的一个新的领域，其动机在于建立、模拟人脑进行分析学习的神经网络，它模仿人脑的机制来解释数据，例如图像，声音和文本。

深度学习是无监督学习的一种。

深度学习的概念源于人工神经网络的研究。

含多隐层的多层感知器就是一种深度学习结构。

深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征，以发现数据的分布式特征表示。

深度学习的概念由Hinton等人于2006年提出。

基于深信度网(DBN)提出非监督贪心逐层训练算法，为解决深层结构相关的优化难题带来希望，随后提出多层自动编码器深层结构。

此外Lecun等人提出的卷积神经网络是第一个真正多层结构学习算法，它利用空间相对关系减少参数数目以提高训练性能。