科研之友
微信
新浪微博
Facebook
分享链接
摘要
<正>尽管深度学习技术得到了长足的发展，然而发展过程中，存在诸多理论问题需要进一步深入的研究和关注。深度学习的基本思想就是模拟人脑的信息处理机制，希望能够对自然信息，尤其是声音、语言、文字、图像进行很好的处理。而这些是传统的计算机方法难以做到的。但是目前深度学习对于人脑的知识处理机制和推理机制了解的还不够，同时也实现的不够。深度神经网络主要是通过学习和优化来实现对数据的计算处理，从而产生了对海量大数据样本的训练问题、稀疏编码与表征问题、泛化问题、可解释性问题和鲁棒性问题。下面从从类脑启发、物理启发和进化启发等三个方面讨论深度学习的表征、学习与优化理论。类脑启发的深度学习从类脑感知到认知是一个复杂的过程。我们不仅要从心理学、哲学、语言、人类学、人工智能、神经科学角度去考虑，更重要的，我们要从触觉、听觉、视觉去思考。神经网络源于脑神经的计算，但是当我们回顾生物学中脑神经信息处理过程会发现，真实的生物大脑中并不是用简单的计算来实现大脑认知功能的。例如脑的稀疏性、学习性、选择性、方向性、知识性和多样性等，都是值得借鉴的地方。物理启发的深度学习机器学习和物理科学共同的核心是提取特征与规则，本质区别是规则的使用条件。
- 单位
