スパコンで脳を再現する山匡ようこそ電気通信大学大学院情報理工学研究科 NumericalBrain.Org BLSCスプリングスクール 2018年3月28,29日電気通信大学スケジュール 13:00- 開会式 & 研究室へ移動 13:30- ごあいさ

Size: px

Start display at page:

Download "スパコンで脳を再現する山匡ようこそ電気通信大学大学院情報理工学研究科 NumericalBrain.Org BLSCスプリングスクール 2018年3月28,29日電気通信大学スケジュール 13:00- 開会式 & 研究室へ移動 13:30- ごあいさ"

けいしょうやまがた
4 years ago
Views:

スパコンで脳を再現する山匡 (@neuralgorithm) ようこそ電気通信大学大学院情報理工学研究科 NumericalBrain.

1 スパコンで脳を再現する山匡ようこそ電気通信大学大学院情報理工学研究科 NumericalBrain.Org BLSCスプリングスクール 0年月,9日電気通信大学スケジュール :00- 開会式 & 研究室へ移動 :0- ごあいさつ & 資料配付 & 自己紹介 :- クラスタマシンへのログイン満員御礼 :00- 一時間目: 高校生のための計算神経科学入門 :0- 休憩 :00- 二時間目: 神経回路シミュレーション事始め :0- 休憩 :00- 三時間目: ランダムネットワークの並列計算 :0- まとめ計算機見学閉会式へ移動 :- 閉会式 : 終了資料配布授業テキスト (当日配布版) スライドの縮小コピーを配ります今日やらないこと人工知能深層学習ノートを取る必要はありませんメモはテキストやスライドに書き込んで下さい話を聞く方が重要もしこういうのを期待して来てたらごめんなさい自己紹介クラスタマシンへのログイン

クラスタマシンへのログイン. 各自のユーザ名を配ります (guest##, ##は数字).

= gleak (V (t) Eleak ) + Isyn (t) + Iext (t)

2 クラスタマシンへのログイン. 各自のユーザ名を配ります (guest##, ##は数字). 端末エミュレータで ssh -Y <hostname> -l guest## と入力してください. ログインできると一時間目高校生のための計算神経科学入門と表示されると思います. プロンプトに続けて sl と入力して何が起きるかを確認してくださいニューロンの数式 dv = gleak (V (t) Eleak ) + Isyn (t) + Iext (t) dt! " Isyn (t) = gsyn (t) V (t) Esyn C τsyn dgsyn dt = gsyn (t) +! 入力スパイク wj δj (t) j シナプス結合重み V (t) > θ δ(t) =, V (t) = Vreset ニューロンの計算神経回路シミュレーションとは人工の脳を作ることに相当実験可能脳のシステム的理解神経回路の挙動の再現仮説の検証実験結果の解釈と予言実験ではできない操作が可能行動実験可能実験可能生理実験可能解剖 EUのThe Human Brain Project ヒト全脳シミュレーション 0年で0億ユーロ JUQUEEN (IBM,.9PFs) Markram et al. Cell (0) 何をどう計算するか. 何を計算するか先ほどの式を計算する. どう計算するか数値計算法が必要

3 ls car.c nano car.c nano

$0 ) { // 0 秒間繰り返し以下はクラスタマシンで作業する nanoで^x (Controlを押しながらXを押す) nano が終了する gcc -std=c99 -O -o car car.$ $c (TODO: おまじないの説明をする) printf ( "%f %f\n", t, x ); // 今の時刻と位置を表示 x = x + v * dt; // 次の時刻の位置を計算 t = t + dt; // 時間をdt秒進める./car 計算結果の数字列が表示されるはず return 0; 計算結果を表示するこんなのが表示されるはず./car > car.$

4 car.cの説明プログラムを実行する #include<stdio.h> int main { double double double double ( void ) t = 0; // 時刻: 最初は0秒から x = 0; // 位置: 最初は原点から0メートルから v =.0; // 速度: メートル/秒 dt =.0; // 時間の刻み幅: 秒ずつ進める while ( t < 0.0 ) { // 0 秒間繰り返し以下はクラスタマシンで作業する nanoで^x (Controlを押しながらXを押す) nano が終了する gcc -std=c99 -O -o car car.c (TODO: おまじないの説明をする) printf ( "%f %f\n", t, x ); // 今の時刻と位置を表示 x = x + v * dt; // 次の時刻の位置を計算 t = t + dt; // 時間をdt秒進める./car 計算結果の数字列が表示されるはず return 0; 計算結果を表示するこんなのが表示されるはず./car > car.dat 計算結果をファイルに保存 gnuplot 位置 (メートル) 以下はクラスタマシンで作業する gnuplotはグラフを表示するアプリ plot car.dat 時間 (秒) 終わったら Ctrl + D でgnuplotを終了する時間があったら vをtに書き換えて等加速度運動にする書き直したら^X Y リターン一時間目まとめ一時間目まとめ脳はニューロンがシナプスで繋がったネットワークである脳はニューロンがシナプスで繋がったネットワークである個のニューロンとシナプスの振る舞いは数式で書ける個のニューロンとシナプスの振る舞いは数式で書けるその数式は数値的に答えを求めることができるその数式は数値的に答えを求めることができるので全ニューロン全シナプスの数式を全てプログラムので全ニューロン全シナプスの数式を全てプログラムして数値的に解けば (原理的には)脳と同じ動作をするして数値的に解けば (原理的には)脳と同じ動作をするプログラム (いわばコンピュータ上の脳) を作成できるプログラム (いわばコンピュータ上の脳) を作成できる二時間目は実際にニューロンとシナプスの式を解きますちなみに ( x(t+δt) - x(t) ) / Δtは Δtが十分小さいとき dx/dt (もしくは x )と書くこれをxの (時間に関する) 微分というもちろん v(t) = dx/dt である 0分休憩二時間目神経回路シミュレーション事始め

5 0 neuron.dat

$0.. void loop ( void ). {. double t = 0;. double v = V_INIT;. int spike = 0;. while ( t < T ) { 9. printf ( "%f %f\n", t, (spike? 0.0 : v ) ); 0.$ $double dv = ( DT / TAU ) * ( - ( v - V_LEAK ) + R * I_EXT );. spike = ( v > THETA )? : 0;. v = ( v > THETA )? V_RESET : v + dv;. t = t + DT;.... int main ( void ). { 9. loop ( ); 0. return 0;.$

6 neuron.c. #include <stdio.h>.. #define TAU 0.0. #define V_LEAK -.0. #define V_INIT (V_LEAK). #define V_RESET (V_LEAK). #define THETA -.0. #define R.0 9. #define DT.0 0. #define T #define I_EXT.0.. void loop ( void ). {. double t = 0;. double v = V_INIT;. int spike = 0;. while ( t < T ) { 9. printf ( "%f %f\n", t, (spike? 0.0 : v ) ); 0. double dv = ( DT / TAU ) * ( - ( v - V_LEAK ) + R * I_EXT );. spike = ( v > THETA )? : 0;. v = ( v > THETA )? V_RESET : v + dv;. t = t + DT;.... int main ( void ). { 9. loop ( ); 0. return 0;. gcc -std=c99 -O -o neuron neuron.c./neuron./neuron > neuron.dat gnuplot plot neuron.dat with line. void loop ( void ). {. double t = 0;. double v [ ] = { V_INIT, V_INIT ;. int spike [ ] = { 0, 0 ;. while ( t < T ) {. printf ( "%f %f %f\n", t, ( spike [ 0 ]? 0.0 : v [ 0 ] ), neuron.c. ( spike [ ]? 0.0 : v [ ] ) ); 9. double dv [ ] = { 0.0, 0.0 ; 0. for ( int i = 0; i < ; i++ ) {. dv [ i ] = ( DT / TAU ) * ( - ( v [ i ] - V_LEAK ) + R * I_EXT );.. for ( int i = 0; i < ; i++ ) {. spike [ i ] = ( v [ i ] > THETA )? : 0;. v [ i ] = ( v [ i ] > THETA )? V_RESET : v [ i ] + dv [ i ];.. t = t + DT;. 9. gcc -std=c99 -O -o neuron neuron.c./neuron./neuron > neuron.dat gnuplot plot neuron.dat using : with line, neuron.dat using : with line

$0 ;. double v [ ] = { V_INIT, V_INIT. int spike [ ] = { 0, 0 ;.. while ( t < T ) {. printf ( "%f %f %f\n", t, ( spike 9. ( spike 0. double dg [ ] = { 0.0, 0.0 ;. double dv [ ] = { 0.0, 0.0 ;. for ( int i = 0; i < ; i++ ) {.$ $dg [ i ] = ( DT / TAU_SYN ) * (. dv [ i ] = ( DT / TAU ) * ( - (.. for ( int i = 0; i < ; i++ ) {. spike [ i ] = ( v [ i ] > THETA. g [ i ] = g [ i ] + dg [ i ]; 9. v [ i ] = ( v [ i ] > THETA )? 0.. t = t + DT;.$

7 指数関数型シナプススパイク {0, シナプス後膜電位重み w (時間) (時間) dg τsyn = g(t) + w Spike(t) dt. void loop ( void ). { double t = 0;. double g [ ] = { 0.0, 0.0 ;. double v [ ] = { V_INIT, V_INIT. int spike [ ] = { 0, 0 ;.. while ( t < T ) {. printf ( "%f %f %f\n", t, ( spike 9. ( spike 0. double dg [ ] = { 0.0, 0.0 ;. double dv [ ] = { 0.0, 0.0 ;. for ( int i = 0; i < ; i++ ) {. dg [ i ] = ( DT / TAU_SYN ) * (. dv [ i ] = ( DT / TAU ) * ( - (.. for ( int i = 0; i < ; i++ ) {. spike [ i ] = ( v [ i ] > THETA. g [ i ] = g [ i ] + dg [ i ]; 9. v [ i ] = ( v [ i ] > THETA )? 0.. t = t + DT;... network.c (抜粋) 0.0 ; [ 0 ]? 0.0 : v [ 0 ] ), [ ]? 0.0 : v [ ] ) ); - g [ i ] + W * spike [ ( i + ) % ] ); v [ i ] - V_LEAK ) + g [ i ] + R * I_EXT ); )? : 0; V_RESET : v [ i ] + dv [ i ]; 要説明二時間目まとめ課題 gcc -std=c99 -O -o network network.c./network 数字が表示されるのを確認./network > network.dat ニューロン個のシミュレーションから始めてニューロン個のネットワークまで作成したシナプスの結合重みを変えるだけでネットワークの挙動は gnuplot plot network.dat using : with line, 変化した脳はネットワークの繋ぎ方がとても重要である network.dat using : with line [課題] Wの符号を負にして再度試してください 0分休憩三時間目ランダムネットワークの並列計算ニューロン000個のネットワーク. void loop ( void ) random.c. { (抜粋) double t = 0.;. timer_start ();. ニューロン数 (000) while ( t < T ) {. for ( int i = 0; i < N; i++ ) {. calculatesynapse ( i );. updatemembranepotential ( i );. 9. outputspike ( t ); 0. t = t + DT;... double elapsedtime = timer_elapsed ();. printf ( "Elapsed time = %f sec.\n", elapsedtime);.. 要説明

8 プログラムを実行してみる計算が遅すぎる問題とその解決策 make random 自動的にコンパイルされる計算時間が結構かかりますよね (秒くらい)./random ここまで個のCPU (コア) しか使っていません spike.datができる今使っているクラスタマシンは全部で9コアです gnuplot ので 9コア全部使わないともったいない並列計算 plot spike.dat with dots 計算時間も測定する例: ニューロンを独立のCPUで計算 t ニューロンをCPUで計算 CPU CPU CPU CPU スパイク交換 = MPIによる通信ネットワークを介して異なるCPU間で情報を転送する MPI (Message Passing Interface) というライブラリがある計算今日は一番簡単なMPI_Allgatherを使いますスパイク交換 t+δt spike [ ] 計算 CPU スパイク交換 t+δt CPU CPU spike [ ] MPI_Allgather CPU (時間) random_mpi.c. void loop ( const int mpi_size, const int mpi_rank ) (抜粋). {. const int n_each = ( N + mpi_size - ) / mpi_size;. int spike_local [ n_each ]; 000 / コア数. double t = 0.; timer_start ();. (例えば00コアあれば0) while ( t < T ) {. for ( int n = 0; n < n_each; n++ ) {. calculatesynapse ( n, n_each * mpi_rank ); 9. updatemembranepotential ( n, n_each * mpi_rank, 0. spike_local );.. MPI_Allgather ( spike_local, n_each, MPI_INT, spike, n_each, MPI_INT, MPI_COMM_WORLD );. if ( mpi_rank == 0 ) { outputspike ( t ); t = t + DT;... double elapsedtime = timer_elapsed ();. if ( mpi_rank == 0 ) { printf ( "Elapsed time = %f sec.\n", elapsedtime);. 要説明計算時間はどう変化するかコードを試す make random_mpi mpirun -hostfile hostfile -np./random_mpi 計算時間を測定する -np の後ろの数字を変えて測定する 0人いるから,,,,,,,, 0, 9をそれぞれ人ずつ順番に試そう三時間目まとめもし CPU数を倍にすると計算時間が/になったら理想的な並列化がなされている強スケーリング 000ニューロンからなるランダムネットワークのシミュプログラムの全ての箇所が並列化できるわけではない並列化できない箇所に計算時間がかかっていたらできる箇所を頑張っても意味が無いアムダールの法則なので並列化は必ずしもあらゆる問題に対する解決策 (いわゆる銀の弾丸) ではないレーションをおこなった MPIを使った並列計算で計算を高速化した

プログラミング実習I

プログラミング実習I プログラミング実習 I 05 関数 (1) 人間システム工学科井村誠孝 m.imura@kwansei.ac.jp 関数とは p.162 数学的には入力に対して出力が決まるもの C 言語では入出力が定まったひとまとまりの処理入力や出力はあるときもないときもある main() も関数の一種何かの仕事をこなしてくれる魔法のブラックボックス例 : printf() 関数中で行われている処理の詳細を使う側は知らないが,

スパコンで脳を再現する 山 匡 ようこそ 電気通信大学 大学院 情報理工学研究科 NumericalBrain.Org BLSCスプリングスクール 2018年3月28,29日 電気通信大学 スケジュール 13:00- 開会式 & 研究室へ移動 13:30- ごあいさ

スパコンで脳を再現する山匡ようこそ電気通信大学大学院情報理工学研究科 NumericalBrain.Org BLSCスプリングスクール 2018年3月28,29日電気通信大学スケジュール 13:00- 開会式 & 研究室へ移動 13:30- ごあいさ