你知道反饋神經網路是什麼

與前饋神經網路相比,反饋神經網路內部神經元之間有反饋,可以用一個無向完全圖表示。1985年霍普菲爾德(Hopfield)等人用類比電子線路實現了Hopfield網路,巴特·柯斯可(Bart Kosko)於1988年提出雙向聯想記憶(Bidirectional Associative Memory,BAM)網路,埃爾曼(J。L。Elman)於1990年提出Elman網路。

你知道反饋神經網路是什麼

Hopfield網路類似人類大腦的記憶原理,即透過關聯的方式,將某一件事物與周圍場景中的其他事物建立關聯,當人們忘記了一部分資訊後,可以透過場景資訊回憶起來,將缺失的資訊找回。透過在反饋神經網路中引入能量函式的概念,使其執行穩定性的判斷有了可靠依據,由權重值派生出能量函式是從能量高的位置向能量低的位置轉化,穩定點的勢能比較低。

你知道反饋神經網路是什麼

基於動力學系統理論處理狀態的變換,系統的穩定態可用於描述記憶。Hopfield網路分為離散型(Discrete Hopfield Neural Network,DHNN)和連續型(Continous Hopfield Neural Network,CHNN)兩種網路,在本節中主要介紹離散型Hopfield網路,對CHNN感興趣的讀者可查閱相關文獻深入研究。

你知道反饋神經網路是什麼

在Hopfield網路中,學習演算法是基於Hebb學習規則,權值調整規則為若相鄰兩個神經元同時處於興奮狀態,那麼它們之間的連線應增強,權值增大;反之,則權值減少。