科研之友
微信
新浪微博
Facebook
分享链接
摘要
深度神经网络极大地推动了视觉感知与自然语言处理任务的研究进展，但当前大多数深度模型执行的是静态推理图，即其网络结构（深度）在推理阶段固定不变。这种静态推理模式导致模型无法根据输入样本的特性（如复杂度），自适应地调节计算复杂度，以平衡模型推理效率和预测精度。因此以深度自适应神经网络为代表的动态神经网络研究近年来引起了广泛的关注，该类神经网络能够根据输入样本的复杂度自动地调节推理深度。本文从三个角度对现有工作进行系统性地归纳总结：1）深度自适应网络的结构设计；2）样本复杂度估计方法的研究；3）深度自适应神经网络的训练方法。最后我们讨论了该方向未来有价值的研究问题。
- 单位
