| 熊万富 |
随着简单的神经网络，CNN，RNN等神经网络方法的提出和计算机算力日益增长，神经网络的理论与应用不断。深度学习在科技发展中占据着越来越重要的地位。深度学习在计算机视觉、自然语言处理等方面展现的远超以前机器学习的算法，越来越多的人投身深度学习的发展。比如大多学习计算机的同学考研的选择方向都会是深度学习、人工智能。同时，深度学习可以运用到我们生活的许多方面，如人脸识别，无人驾驶等。通过视频学习，知道了单层感知机，多层感知机可以实现基本的逻辑运算。万有逼近定律也告诉我们，当有足够的深度与宽度，神经网络可以逼近任意的函数。这些告诉了我们理论上的有效性。通过代码练习也知道了，以一个简单的两层神经就可以对一个分类问题达到很高的准确率。所以深度学习的发展是十分有潜力的。 |
| 刘瀚文 |
计算机具有快速计算和记忆储存能力。感知智能类似于人的视觉听觉触觉的感知能力，认知智能概念、意识、观念都是认知智能的表现。artificial Intelligence > machine learning > deep learning。机器学习：从数据中自动提取知识。机器学习训练 模型是对要学习问题映射的假设。 分类以数据标记有：监督学习，半监督学习，无监督学习，强化学习。以数据分布：参数模型，非参数模型。以建模对象：判别模型，生成模型。 策略是：从假设的空间中学习、选择最优模型的准则。算法是：根据目标函数求解最优模型的具体计算方法。深度学习应用研究：视觉+语言。 深度学习的不足有：算法输出不稳定，容易被“攻击”，模型复杂度高，难以纠错和调试，模型层级复合程度高，参数不透明，端到端训练方式对数据依赖性强，模型增量性差，专注直观感知类问题，对开放性推理问题无能为力，人类知识无法有效引入进行监督，机器偏见难以避免。单层感知机： 应用线性激活函数，首个可以学习的人工神经网络，非线性激活函数表现优。MLP：三层感知器实现同或门。NN的参数学习：误差反向传播。：希望损失函数尽可能小，梯度下降方法更新损失函数中w，b。逐层预训练。RBM self encoder。解决梯度消失：先用无监督数据作分层预训练，再用有监督数据fine-tune，RELU激活函数，辅助损失函数， Batch Normalization，LSTM。 |
| 姜逸飞 |
人工智能分为的三个层面：1.计算智能。2.感知智能。3.认知智能。机器学习是人工智能的一个方向。按照不同的标准有着不同的分法：按数据标记，可分为监督学习模式，无监督和半监督学习模型，强化模型按数据分布，可分为参数模型，非参数模型；按建模对象，可分为判别模型，生成模型。深度学习在新时代再度兴起得益于大数据，算法，计算力的发展。随着GPU算力的提升深度学习所展现的能力越来越强。万有逼近定理如果一个隐层包含足够多的神经元，三层前馈神经网络能以任意精度逼近任意预定的连续函数。双隐层感知器逼近非连续函数。在神经元总数相当的情况下，增加网络深度可以比增加宽度带来更强的网络表示能力。这些都从理论上证明了深度学习的有效性。 |
| 张嘉保 |
虽然深度学习被广泛的使用，并且在许多的领域中都得到了很好的效果。但是深度学习仍然有许多“不能”：1.算法输出不稳定，容易被攻击，更改像素点的某个像素值，便可以将图片识别信息修改，容易造成自动化设备识别出错。 2.模型复杂度高，难以调试，深度学习经过训练后得到的结果一般与正确结果相差无几，但是出现意外情况不匹配时，特定情况下如GOOGLE将毛利语翻译成英语出错，此时，已经训练了大量训练集，出现这种问题十分难以调试。 3.模型层级复合程度高，参数不透明暂时无法理解这个问题。4.端到端训练方式对数据依赖性强，模型增量性差对训练集的需求很大，拟合结果与训练集数量密切相关。5.人类知识无法有效引入监督，机器偏见难以避免。 |