乱数発生器が不要なニューラルネットワークのハードウェア実装の方法及び乱数発生器が不要なニューラルネットワーク

堀三晟，田向権，森江隆

特願2016-156471

特開2018-025920

特許第6831990号

国立大学法人九州工業大学

深層学習に用いる乱数生成器が不要な処理層を備えたニューラルネットワークのハードウェア実装の方法であって、
最下流の前記処理層を除いた任意の処理層Ａを形成する複数のユニットＡのそれぞれの発火又は非発火の状態を示す状態値Ａが、該処理層Ａと隣り合う下流側の処理層Ｂを形成する複数のユニットＢにそれぞれ伝達されて決まる該ユニットＢ毎の状態値Ｂを固定小数点２進数による演算で求め、該状態値Ｂを変数とする発火確率関数を用いて前記ユニットＢ毎の発火確率Ｐ（Ｂ）を求めて発火又は非発火の状態を決定して出力する演算回路部を設け、前記演算回路部には、前記状態値Ｂを求める際に前記固定小数点２進数のビット幅を超過して切り捨てられるビットを用いて形成する数値を乱数として用いて、前記ユニットＢ毎の発火確率Ｐ（Ｂ）から該ユニットＢの発火又は非発火の状態を決定するユニット状態演算器を設けることを特徴とする乱数生成器が不要なニューラルネットワークのハードウェア実装の方法。