ニューラルネットワーク(Neural Network)

  人間の脳はニューロンと呼ばれる神経細胞の組み合わさった神経回路網で 構成されており，我々はその回路網を使うことによって情報処理を行って いる．この生体神経系のネットワーク構造のことをニューラルネットワークと呼び， 人間がパターン認識や連想記憶，予測などの処理を効率良く行うことができるの は，ニューラルネットワークを利用しているからである．
我々が研究に使用しているニューラルネットワークとはその構造， 即ち神経細胞が電気信号を伝播していく様子を数学的に模倣したアルゴリズムで あり，人間に近い能力を持つ情報処理機構を擬似的に作成することを目的としている．
図1はニューロンの概要図である．

図 1: 生態ニューロン

ニューロンは次の５つの生物学的知見を単純化してモデル化されている．

１：シナプス前細胞のインパルス情報はシナプスを介して間接的にシナプス後細 胞の膜電位として伝わる．
２：ニューロンの膜電位はシナプスを介した他のニューロンからの影響を総合し たものにより決定される．
３：膜電位がある閾値を越えたとき，ニューロンは興奮する．この時, 時刻$t$ におけるニューロン$j$の興奮状態 $x_j(t)$は以下の式で求 められる．

４：ニューロンに到達してくるインパルスの数が多ければ多いほど，多くのイン パルスを発生する傾向にある．
５：細胞膜のある部分でインパルスを発生すると一定の期間はいくら脱分極をお こしても新たなインパルスを発生することはできない．

ここで，$s_{j}(t)$は閾値電位$¥theta_j$に対する相対的な膜電位， $w_{ji}$はニューロン$i$からニューロン$j$へのシナプス部におけるイン パルスの伝達効率を表し，シナプス前細胞からシナプス後細胞への影響を決定す る数であるので結合強度と呼ばれる．

式(1)，(2)から分るように，膜電位$s_{j}(t)$はニューロン$i$の興奮状態$x_j{(t)}$ と結合強度$w_{ji}$の線形和に閾値電位$¥theta_j$を考慮して決定さ れる．ニューロンが発火するかしないかは，$s_{j}(t)$の正負によって決定され， 正であれば発火，負であれば静止となる．
この時に用いられる式(3)，図2の階段関数は出力関数と呼ばれ様々なものがあり， 例えば図3に表すようなシグモイド関数等が使用される．

図 2: 階段関数

図 3: シグモイド関数

また，上記で説明しているのは単層パーセプトロンであるが，ニューラルネッ トワークには様々なモデルがあり，何種類かに分類される．
例えばニューロンの結合形態では，図4の様に情報が1方向に流れる階層 型ニューラルネットワークや，図5の様にフィードバック結合を有するリカレン ト型ネットワーク等に分類され，学習方式の違いとしては出力すべき信号を教え る教師あり学習や，自己組織化マップ(SOM)にみられる教師なし学習等がある．

図 4: 階層型

図 5: リカレント型