FPGA でディープラーニング
何年振りかでEmbedded Technology 展に行ってきた。
今年受けたカンファレンスの中で断トツに面白かったのが中原先生のもの。
http://3状態ディープラーニングの学習からFPGA実現まで
このときの資料は公開されている。
資料には書かれていない、先生の話がとても分かりやすく、ためになった。
GPU、FPGAの長所・短所を知りたかったのだが、スライド９ページに
まとめられていた。
現時点では、処理速度においてGPUのほうが速い場合が多いらしい。
それはディープラーニングのアルゴリズムに依存したもので、浮動小数点演算が多いと格段に遅くなる。2値化による枝刈りという手法がとても有効で、計算結果の精度を保ったまま、計算量と処理時間を劇的に改善する。2値化はFPGAととても相性がよい。
消費電力の点では、現時点でGPUのほうがFPGAよりかなり大きい。
アルゴリズムは現在、次から次へ新しいものが出ている最中で、1か月で20％性能が上がる、といったことが起きているそうだ。あと2年ぐらいはそんな状況がつづくのではないか、とのこと。なので、現時点ではASICにするのはリスクが高すぎる、新しいアルゴリズムをすぐに試すにはFPGAがいまは一番使えるデバイス、ということだった。
