[Deep Learning] 感知器(Perceptron)為何物? [DP-001]

ChunJen Wang
Apr 7, 2021

--

幾乎是分類問題最基本的概念,一切皆始於此。

感知器決定了是否傳遞訊息(0=不傳遞/1=傳遞)

計算過程會透過加權分式,對Xi進行運算,合併為一個值介於0~1之間的Yi,當Yi超過閥值(threshold),視為1=傳遞。

加權的權重 Wi 相當於電流中的電阻。

AND Gate/NAND Gate/OR Gate

如同在Python基礎所學,我們可以知道And/Not/Or等條件的運算與運用,加入感測器的概念,也是如此,不過在此我們同時考慮兩個條件,並對其做加權,並設定閥值。

這篇文涵蓋的 code,放在我的 colab上。

而我們也可以預設一個初始值,在此稱之為偏權值(Bias),讓其在判斷時,都從初始值出發進行運算。

限制:感知器無法用一層架構來執行 XOR

突破方法為將線性問題轉換為非線性,透過前三者的疊層,即可做到XOR(互斥閘)的表示,如下。

XOR(0,0)=0/XOR(1,0)=1/XOR(0,1)=1/XOR(1,1)=0

在此XOR就是雙層感知器,透過NAND與OR(第一層)與AND(第二層)的結合,產出多層感知器(multi-layered perceptron)。

小結:

  • 感知器為輸入輸出演算法,給定x就有y
  • 透過weight, bias進行參數設定,相當於regression的beta
  • 單層感知器僅能呈現線性區域
    多層感知器可以表現非線性區域
  • 感知器理論上可以組合拼湊為一台電腦

--

--

ChunJen Wang

嗨,歡迎你的到來,我目前在銀行擔任DS。過去曾做過銀行大型專案BA,也曾在轉職科技業DE中踢了鐵板,相信每一個人都有自己要走的路,而努力的過程,可以讓我們離心中理想更接近,如果我的文章能帶給你一些啟發與幫助,別忘了幫我在文章底下按下拍手~^^