Multi-core에서 Many-core로 Architecture 이슈가 넘어가고 있는 요즘, 뇌과학과 접목하려는 시도도 많이 있습니다. 그 중에서 Massively Parallel한 Neural Network Architecture를 구현하는 목적인 SpiNNaker project가 있더군요. 해당 프로젝트는 2006년부터 시작되어, University of Manchester, Southampton 에서 진행중이며 연구비는 백만 파운드를 돌파하네요.
뇌과학의 목표는 "To further the understanding of the brain"이라고 할 수 있습니다. 이 연구의 방향으로는.
1. 뇌의 생물학적인 구조 자체를 모방하거나 (to model the biological structure of the brain)
2. 뇌의 문제 해결 방법을 모사해서 진행하는 방법 (to model the problem solving process)
가 있습니다. SpiNNaker project는 전자에 해당한다고 합니다.
여기 까지 생각을 정리하면서, ARM9 core들을 이용하여 어떻게 Modeling Brain을 수행하였을까 관심이 높아졌는데, Project의 목표는 제가 생각하던 것과 다르네요. Hardware Architecture로 Brain Modeling을 어떻게 했을까 하고 봤더니. 그게 아니라 사람의 Brain과 같은 개수의 Neural Network algorithm을 돌리기 위한 Hardware Platform을 제작하는 것입니다.
즉, Billion 단위의 Neural Network 모델을 Simulation하기 위해서는 엄청난 Processing Power가 필요한데, 이를 위한 Massively Parallel한 구조를 구현한 게 project의 목표입니다.
이 Project의 특징을 정리해보면
1. GALS Timing model : Globally synchronization 과정이 필요없이 각자의 core가 자유롭게 동작하므로 synchronization에 필요한 circuit 절약.
2. Routing table을 이용한 NoC communication
3. Low-power processor
Low-power processor 부분에서는 다소 당황스러웠는데, 20개의 Core를 Intel이나 AMD의 CPU가 아닌 저전력 ARM을 사용하였으므로 저전력의 장점을 표현하고 있습니다. 관련 내용을 읽어보실 분은 아래 논문을 읽어보시면 될 것 같습니다.
A survey of the SpiNNaker Project : A massively parallel spiking Neural Network Architecture