15.3K
2235
深度置信網
通過將一系列受限玻耳茲曼機(由二值隨機神經元構成的兩層對稱連接神經網絡)單元堆疊進行訓練的深度生成式模型。
深度置信網是概率統計學與機器學習和神經網絡的融合。深度置信網由多個帶有數值的層組成,其中層與層之間存在關系,而數值之間沒有。深度置信網的主要目標是幫助系統將數據分類到不同的類別。
深度置信網的演進經歷了幾個階段:①第一代神經網絡使用感知器,通過考慮權重或預先饋送的目標屬性來識別特定的物體或其他物體。然而,感知器只能在更基本的層面上有效,并不能提高識別的技術。②第二代神經網絡引入了反向傳播的概念,將得到的輸出與期望的輸出進行比較,最終目標是使誤差值減小到零。支持向量機通過引用先前測試用例的輸入來創建和理解更多的測試用例。③針對信念網絡的非循環圖。這種圖能夠幫助解決與推理那些和學習問題有關的問題。④深度置信網。它幫助創建存儲在葉節點中的無偏值。深度置信網由諸如玻耳茲曼機無監督網絡組成。每個子網絡的不可見層是下一層的可見層。隱藏層或不可見層并不是相互連接的,而是有條件互相獨立的。
深度置信網在修改后的國家標準技術研究所數據庫(modified national institute of standards and technology database,MNIST)上的表現超越了支持向量機,從而開啟了深度學習在學術界和工業界的浪潮,在深度學習的發展歷史中具有重要意義。