写真提供:マイナビニュース

写真拡大

SC16において、IBM ResearchのJun Sawada氏が、神経系を模した情報処理を行う「TrueNorth」について発表を行った。

TrueNorthは、入力をあちこちに接続するAxon相当の機能と複数の入力を総合して出力を出すNeuron相当の機能からなり、入力と出力の接続は左の図のようにバリエーションがある。TrueNorthでは、これを右側の図のように入力を横方向の線、出力回路への入力を縦方向の線とする格子を作る。格子の交点に黒丸がついているところは、入力が出力に伝えられることを示している。どの交点を接続するかで、接続のバリエーションを作り出している。

接続されている交点では、各入力の値にそれぞれの重みを掛けて、縦線全体の合計を求める必要があり、単純な配線の接続ではない。

TrueNorthチップは、1M個のニューロンと256M個のシナプス(格子の交点の数)を集積したチップで、28nm CMOSプロセスを使い、54億トランジスタを4.3cm2のチップに集積している。神経と同様にパルス信号を伝達する回路を使っており、チップの消費電力は70〜200mWと小さい。

なお、TrueNorthチップは256ニューロンを含むコアを4096個並べて作られている。実は、この256個のニューロンは、1つのニューロン回路を時分割で使用して実現されている。

TrueNorthチップは、次の図に示されるように、隣接するチップ間の入力と出力を接続することにより、複数のチップを使ってより大規模なアレイを作ることができるようになっている。後述の、16チップのNS16eシステムはこのようにして作られている。

TrueNorthチップと制御用のFPGAを内蔵したZynQ SoCを搭載したNS1eボードが基本単位で、このボードを16枚 Ethernetで接続したスケールアウト型のNS1e-16システムと16個のTrueNorthチップを4×4に接続し制御用のZynQを付けたスケールアップ型のNS16eというシステムがある。

実行(推論)の場合は、センサからの信号をニューラルネットワークに入力できるデータに変換し、TrueNorthが扱う神経パルス形式に変換する。TrueNorthは入力を処理し、出力をパルス形式からディジタルデータに変換して出力を生成する。

開発(学習)データフローでは、学習が行われるが、トレーニングの部分の箱にはNVIDIA GPUの写真が貼り付けられており、学習過程の計算は、GPUを使っているようである。

TrueNorthのニューロンの出力は-1/0/1の値しか取れず、入力の重みも4値の整数からしか選べない。このように低精度の計算しかできないので、重みなどの値に分布を持たせて、これを複数のニューロンを使い、かつ、複数回の計算を行なってその平均を取るというような計算を行なって精度を上げている。しかし、これでは実質的に扱えるニューロン数が減り、かつ、計算時間が長くなってしまう。この問題を軽減する精度の改善法の論文が発表されているが、発表では詳しく触れられなかったので、ここでは省略する。

モデルの作成では、NVIDIAのGPUを使って学習を行い、学習ができたモデルをTrueNorthのニューロンアレイに落とし込んでいる。ただし、学習の過程ではTrueNorthチップの特性に合わせた最適化を行っている。

TrueNorthのコアは、どれも同じであるので、論理的なコアはどの物理コアに割り付けてもよい。そこで、最適に近い配置を短時間で見つけるツールを開発した。配置の良し悪しは、消費電力や、スループットに影響する。

次の図はTreuNorthでCIFARデータベースの画像の認識を行わせた例であるが、左のぼけた絵を見て、右側の猫が一番近いと判定している。

TrueNorthシステムは、各種のデータベースの画像認識で、認識精度は最高の性能のシステムに迫る精度で、チップの消費電力は0.204Wから1.497Wと非常に小さい。また、スループットは432フレーム/秒から1526フレーム/秒で、430〜6100フレーム/Wとエネルギー効率も高い。

エネルギー効率を比較すると、TrueNorthは432-6109フレーム/Wであるのに対して、マンチェスタ大のSpiNNaker(Spiking Neural Network Architecture)は167FPS/W、Titan X GPUは45FPS/W、Core i7 CPUを使った場合は14.2FPS/Wで、TrueNorthは非常にエネルギー効率が高い。ただし、この比較は、まったく同じことをやらせているわけではないので、Apple-to-Appleの比較にはなっていないという断り書きがついている。

空軍の研究所は、NS1e-16システムを使い、手書きの文書を切断して、16台のTrueNorthで並列に認識を行い、大量のノイズの多い生データを処理する研究を行っている。

ローレンスリバモア研究所は、付加型の製造プロセスの欠陥の検出に取り組んでいる。次の図は、レーザで金属を溶かして貼り付けるという加工を行った結果を見て、穴が開いている、焼き入れが不十分などの箇所を認識する。製造中に欠陥が認識できれば、直ぐにフィードバックが掛けられる。

16個のTrueNorthでは、大きなニューラルネットを作るにはニューロンが足りない。そのため、次の研究課題は、多数のNS16eボードを高速ネットワークで接続し、現在より、ずっと大きなネットワークを作ることである。このシステムでは、ローカルな情報処理は敷き詰めたTrueNorthで行い、長距離の通信には、EthernetやPCI Expressを使用する。

(Hisa Ando)