深度學習的訓練過程：

1）自下上升非監(jiān)督學習，從底層開始，一層一層的往頂層訓練。采用無標定數(shù)據(jù)（有標定數(shù)據(jù)也可）分層訓練各層參數(shù)，這是一個無監(jiān)督訓練過程，是和傳統(tǒng)神經(jīng)網(wǎng)絡(luò)區(qū)別最大的部分，這個過程可以看作是feature learning過程。

2）自頂向下的監(jiān)督學習，通過帶標簽的數(shù)據(jù)去訓練，誤差自頂向下傳輸，對網(wǎng)絡(luò)進行微調(diào)。基于第一步得到的各層參數(shù)進一步fine－tune整個多層模型的參數(shù)，這一個有監(jiān)督訓練過程。

深度學習的第一步不是隨機初始化，而是通過學習輸入數(shù)據(jù)的結(jié)構(gòu)得到的，因而這個初值更接近全局最優(yōu)，從而能夠取得更好的效果。所以深度學習效果好很大程度上歸功于第一步的feature learning過程。

對深度學習而言，訓練集就是用來求解神經(jīng)網(wǎng)絡(luò)的權(quán)重的，最后形成模型；而測試集，就是用來驗證模型的準確度的。

深度學習領(lǐng)域研究包含：優(yōu)化（Optimization），泛化（Generalization），表達（Representation）以及應(yīng)用（Applications）。除了應(yīng)用（Applications）之外每個部分又可以分成實踐和理論兩個方面。

根據(jù)解決問題、應(yīng)用領(lǐng)域等不同，深度學習有許多不同實現(xiàn)形式：卷積神經(jīng)網(wǎng)絡(luò)（ConvolutionalNeural Networks）、深度置信網(wǎng)絡(luò)（DeepBelief Networks）、受限玻爾茲曼機（RestrictedBoltzmann Machines）、深度玻爾茲曼機（Deep BoltzmannMachines）、遞歸自動編碼器（RecursiveAutoencoders）、深度表達（DeepRepresentation）等。

深度學習的優(yōu)點：深度學習提出了一種讓計算機自動學習出模式特征的方法，并將特征學習融入到了建立模型的過程中，從而減少了人為設(shè)計特征造成的不完備性。而目前以深度學習為核心的某些機器學習應(yīng)用，在滿足特定條件的應(yīng)用場景下，已經(jīng)達到了超越現(xiàn)有算法的識別或分類性能。

深度學習的缺點：只能提供有限數(shù)據(jù)量的應(yīng)用場景下，深度學習算法不能夠?qū)��?shù)據(jù)的規(guī)律進行無偏差的估計。為了達到很好的精度，需要大數(shù)據(jù)支撐。由于深度學習中圖模型的復雜化導致算法的時間復雜度急劇提升，為了保證算法的實時性，需要更高的并行編程技巧和更多更好的硬件支持。因此，只有一些經(jīng)濟實力比較強大的科研機構(gòu)或企業(yè)，才能夠用深度學習來做一些前沿而實用的應(yīng)用。

深度學習成功應(yīng)用于計算機視覺、語音識別、記憶網(wǎng)絡(luò)、自然語言處理等其他領(lǐng)域。

深度學習是關(guān)于自動學習需要建模的數(shù)據(jù)潛在分布的多層表達的復雜算法。深度學習算法自動的提取分類需要的低層次或者高層次特征�？傊�，深度學習是用多層次的分析和計算手段，得到結(jié)果的一種方法。

結(jié)語

目前深度學習的發(fā)展引起其他它領(lǐng)域的革命。深度學習的火熱得益于各行各業(yè)豐富的大數(shù)據(jù)發(fā)展和計算機計算能力的提升，同時也要歸功于過去經(jīng)驗。今后深度學習將繼續(xù)解決各種識別（Recognition）和演繹（Ability to Act）方面的相關(guān)問題。當然，機器學習本身也不是完美的，也不是解決世間任何機器學習問題的利器，深度學習目前仍有大量工作需要研究，不應(yīng)該被放大到一個無所不能的程度。