admin 管理员组

文章数量: 1184232

文献阅读笔记

介随口说说快速

介绍

深度学习类型

  • 监督学习
  • 半监督学习
  • 无监督学习

  • 强化学习（基本上将半监督学习和强化学习归为一起）

    有关深度学习类型的说明博客：监督学习、半监督学习、无监督学习以及强化学习类型比较

深度学习中的特征学习

深度学习应用场景

深度学习较好的性能

为什么深度学习

深度学习要面临的挑战

深度神经网络

DNN发展历史

梯度下降

随机梯度下降

向后传播

使用动量

学习率

权重衰减
L2正则化

卷积神经网络（CNN）

CNN概述

  • 卷积层
  • 池化层
  • 分类层

前馈神经网络

  • 网络参数和CNN所需要的内存

比较有名的CNN框架

  • LeNet
  • AlexNet
  • ZFNet / Clarifai
  • VGG Net
  • Google Net
  • Residual Network
  • Densely Connected Network (DenseNet)
  • FractalNet
  • CapsuleNet
  • 不同的模型的比较
  • 其它模型
    CNN 的应用
  • 解决图形数据结构的问题
  • 计算机视觉
  • 语言处理
  • 医疗影像

先进的训练手段

预处理数据集
网络初始化
批量正则化
Alternative Convolutional methods
激活函数
Sub-sampling layer or pooling layer
Regularization approaches for DL
Optimization methods for DL

RNN

介绍

AUTO-ENCODER and RESTRICTED BOLTZMANN MACHINE

GENERATIVE ADVERSARIAL NETWORKS (GUN)

DEEP REINFORCEMENT LEARNING (DRL)

TRANSFER LEARNING

ENERGY EFFICIENT APPROACHES AND HARDWIRES FOR DL

HARDWARE FOR DL

FRAMEWORKS AND SDK

JOURNAL AND CONFERENCES

CONCLUSIONS AND FUTURE WORKS

本文标签： 文献 Began AlexNet Comprehensive history

版权声明：本文标题：文献阅读：The History Began from AlexNet: A Comprehensive Survey on Deep Learning Approaches 内容由网友自发贡献，该文观点仅代表作者本人， 转载请联系作者并注明出处：http://roclinux.cn/b/1758741891a3089937.html， 本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，一经查实，本站将立刻删除。