作者：柏安之 審稿：王鵬 封面：吉江
1）Sigmoid函式
常用的Sigmoid有兩種——單極性Sigmoid函式和雙極性Sigmoid函式。
單極性Sigmoid函式：
或
其影象如下：
圖3單極性Sigmoid函式
雙極性Sigmoid函式：
或
把第一個式子分子分母同時除以ez，令x=-2z就得到第二個式子了，換湯不換藥。
其影象如下：
圖4雙極性Sigmoid函式
從它們兩個的值域來看，兩者名稱裡的極性應該指的是正負號。從導數來看，它們的導數都非常便於計算，當斜率引數a接近無窮大時，此函式轉化為簡單的閾值函式，但閾值函式僅取值0或1，而Sigmoid函式的值域是0到1的連續區間，還要注意到Sigmoid函式是可微分的，而閾值函式不是。
2）閾值函式
該函式又叫階躍函式，如圖5 （a ）所示，如果激勵函式採用階躍函式，則圖2所示的人工神經元模型即MP模型。此時神經元的輸出取1或0，反映了神經元的興奮或抑制。
通常符號函式Sgn（t）也作為神經元的激勵函式，如圖5（b ）所示。
圖5階躍函式與符號函式圖
3）分段線性函式
該函式在［-1，1］線性區內的放人係數是一致的，如圖6所示，這種形式的激勵函式可看作是一比線性放人器的近似。
圖6分段線性函式
參考文獻：
［1］邱浩，王道波，張煥春。 一種改進的反向傳播神經網路演算法［J］。 應用科學學報，2004，03：384-387。
［2］劉彩紅。 BP神經網路學習演算法的研究［D］。重慶師範大學，2008。
［3］柴紹斌。 基於神經網路的資料分類研究［D］。大連理工大學，2007。
［4］王偉。 人工神經網路原理［M］。 北京航空航天大學出版社， 1995。
［5］王磊。 人工神經網路原理、分類及應用［J］。 科技資訊， 2014（3）：240-241
［6］陳明。 MATLAB神經網路原理與例項精解［M］。 清華大學出版社， 2013。。
［7］https：//www。zhihu。com/question/27239198？rf=24827633
［8］https：//blog。csdn。net/tyhj_sf/article/details/54134210
［9］https：//blog。csdn。net/Tw6cy6uKyDea86Z/article/details/79283446
溫
馨
提==
示
學堂正在招募內容主筆、短影片創作者、課程講師，請在公眾號底部選單欄點選“招聘”瞭解詳情！
