[Deep Learning] 感知器(Perceptron)為何物? [DP-001]
Apr 7, 2021
幾乎是分類問題最基本的概念,一切皆始於此。
感知器決定了是否傳遞訊息(0=不傳遞/1=傳遞)
計算過程會透過加權分式,對Xi進行運算,合併為一個值介於0~1之間的Yi,當Yi超過閥值(threshold),視為1=傳遞。
加權的權重 Wi 相當於電流中的電阻。
AND Gate/NAND Gate/OR Gate
如同在Python基礎所學,我們可以知道And/Not/Or等條件的運算與運用,加入感測器的概念,也是如此,不過在此我們同時考慮兩個條件,並對其做加權,並設定閥值。
而我們也可以預設一個初始值,在此稱之為偏權值(Bias),讓其在判斷時,都從初始值出發進行運算。
限制:感知器無法用一層架構來執行 XOR
突破方法為將線性問題轉換為非線性,透過前三者的疊層,即可做到XOR(互斥閘)的表示,如下。
在此XOR就是雙層感知器,透過NAND與OR(第一層)與AND(第二層)的結合,產出多層感知器(multi-layered perceptron)。
小結:
- 感知器為輸入輸出演算法,給定x就有y
- 透過weight, bias進行參數設定,相當於regression的beta
- 單層感知器僅能呈現線性區域
多層感知器可以表現非線性區域 - 感知器理論上可以組合拼湊為一台電腦