계산 신경과학

1. 개요[편집]

계산 신경과학 Computational Neuroscience
대상	이온 채널부터 인지 과제까지, 신경계의 모든 시공간 규모
명명	Eric Schwartz 주최 학회 (1985) — 이전엔 "신경 모델링"
분석 틀	마르의 세 수준 (계산 · 알고리즘 · 구현)
층별 대표 모형	호지킨-헉슬리 → 구획 모형 → 적분-발화 → 발화율 · 신경장
주요 시뮬레이터	NEURON · NEST · Brian2 · Arbor
고질적 난제	축퇴(degeneracy) — 다른 파라미터가 같은 출력을 낸다
대형 프로젝트	Blue Brain · Human Brain Project · BRAIN Initiative · Allen Institute

계산 신경과학(computational neuroscience)은 신경계를 정보를 처리하는 물리계로 보고, 그 동작을 수학 모형과 수치 시뮬레이션으로 설명·예측하려는 분야다. 뇌를 찍은 데이터를 통계로 요약하는 데 그치지 않고 “왜 그렇게 계산해야만 하는가”를 방정식으로 답하려 한다는 점에서 신경데이터 분석과 구별된다.¹

이 문서는 지도다. 개별 모형의 유도와 수치 쟁점은 각각의 문서에 있으므로 여기서는 층이 어떻게 쌓여 있고, 각 층에서 무엇을 포기하는가만 다룬다. 채널 동역학은 호지킨-헉슬리 모형, 공간 전파는 케이블 방정식과 구획 모형, 스파이크 축약은 적분-발화 모형, 망 규모는 스파이킹 신경망 문서로 간다.

2. 추상화 계층[편집]

시뮬레이션 하는 사람에게 계산 신경과학이 낯익은 이유는 이 층 구조가 난류 모델링의 DNS–LES–RANS 사다리와 형태가 같기 때문이다. 아래로 갈수록 정확하고 비싸며, 위로 갈수록 싸고 해석적으로 다룰 수 있다.

층	상태 변수	대표 모형	시간 규모	규모 한계
분자·채널	채널 열림 상태, 이온 농도	마르코프 채널 모형, 반응-확산	µs~ms	시냅스 한 개
단일 뉴런	구획별 막전위 + 게이트	호지킨-헉슬리 모형 + 구획 모형	ms	뉴런 수천 개
스파이킹 회로	뉴런당 1~2 변수	적분-발화 모형 계열	ms	뉴런 10⁶~10⁹
집단·발화율	집단당 발화율	윌슨-코완형 발화율 방정식	10~100 ms	영역 수십 개
연속체·신경장	피질 표면 위 장 $u(x,t)$	신경장 방정식(적분-미분)	100 ms~	피질 전체

가장 아래 두 층은 PDE·ODE 수치해석 문제다. 채널 게이트는 강성 ODE이고, 수상돌기는 케이블 방정식이라는 1차원 반응-확산 PDE이며, 구획 모형은 그것의 유한체적 이산화다. 위 두 층은 적분-미분방정식과 동역학계 이론의 영역이다. 발화율 모형은

$$\tau \frac{d r_i}{dt} = -r_i + F\!\Big(\sum_j W_{ij} r_j + I_i\Big)$$

같은 꼴로, 개별 스파이크를 평균으로 갈아 없앤 대신 분기 이론을 그대로 쓸 수 있게 된다. 흥분성 집단 $E$ 와 억제성 집단 $I$ 두 개짜리 윌슨-코완계에서 호프 분기로 감마 진동이 생기는 계산은 학부 과제로 나올 만큼 표준이 됐다. 신경장은 여기서 한 걸음 더 나가 인덱스 $i$ 를 연속 좌표로 바꾸고 $W_{ij}$ 를 거리 의존 커널 $w(|x-y|)$ 로 두는데, 중앙 흥분·주변 억제 커널을 쓰면 튜링 패턴과 같은 메커니즘으로 공간 주기 패턴이 자발적으로 뜬다. 시각 환각의 기하학적 패턴을 이 틀로 설명하는 유명한 계열이 있다.

층 사이를 잇는 것은 평균장 축약이다. 무작위 입력을 받는 LIF 집단은 확산 근사에서 포커-플랑크 방정식으로 정확히 기술되고, 여기서 집단 발화율의 닫힌 표현이 나온다. 스파이킹 층과 발화율 층 사이에 실제로 유도 가능한 다리가 놓인 드문 사례이며, 균형 흥분-억제 망 이론이 전부 이 위에 서 있다.

3. 마르의 세 수준[편집]

데이비드 마르가 Vision(1982)에서 정리한 분석 틀은 이 분야의 공용어다.² 세 수준은 이렇다.

1. 계산 수준(computational) — 이 계가 푸는 문제가 무엇이고, 왜 그것이 풀 가치가 있는가. 예: “망막은 자연 영상의 통계적 잉여를 제거해야 한다.”
2. 알고리즘·표현 수준(algorithmic) — 그 문제를 어떤 표현과 절차로 푸는가. 예: “중앙-주변 수용장으로 공간 고역통과 필터링을 한다.”
3. 구현 수준(implementational) — 그 절차가 어떤 물리적 소자로 구현되는가. 예: “수평세포의 측면 억제 회로.”

요점은 세 수준이 서로를 강하게 제약하지 않는다는 것이다. 같은 계산을 여러 알고리즘이 풀 수 있고, 같은 알고리즘을 여러 회로가 구현할 수 있다. 그래서 “구현을 충분히 정밀하게 베끼면 계산이 저절로 드러난다”는 기대는 논리적으로 보장되지 않으며, 이것이 뒤에 볼 대형 프로젝트 논쟁의 핵심이기도 하다. 반대 방향의 오류도 흔하다 — 계산 수준의 우아한 이야기를 만들어 놓고 회로에 대한 검증을 생략하는 것. 이 분야에서 좋은 논문은 대체로 두 수준 이상을 연결한 논문이다.

4. 시뮬레이터 생태계[편집]

CFD에 OpenFOAM과 상용 코드가 있듯 여기에도 각자의 자리가 뚜렷한 도구들이 있다. 자리를 가르는 축은 단 하나, 형태(morphology)를 푸느냐 마느냐다.

• NEURON (Hines & Carnevale, 1984~) — 형태를 가진 단일 뉴런과 소규모 회로의 사실상 표준. 트리 구조 희소계를 채움 없이 $O(n)$ 에 푸는 하인즈 소거법이 심장이고, 채널은 NMODL이라는 전용 DSL로 기술한다. 실측 형태 데이터(NeuroMorpho.Org의 SWC 파일)를 그대로 먹는다.
• NEST — 형태를 버린 점 뉴런 수백만 개짜리 망 전용. MPI 분산과 스파이크 통신 최적화가 설계의 전부이며, 시냅스 입력이 없는 구간을 지수 전파자로 정확히 건너뛰는 전략을 쓴다. MPI 위에서 슈퍼컴퓨터 전체로 약한 확장된 사례가 여럿 보고돼 있다.
• Brian2 — 파이썬에서 모형 방정식을 문자열로 그냥 적으면 코드 생성기가 C++/CUDA로 컴파일해 준다. 새 뉴런 모형을 하루 만에 시험해 볼 수 있어 이론 연구와 강의에서 압도적으로 쓰인다. 대신 초대형 망에서는 전용 도구에 밀린다.
• Arbor — NEURON의 영역(형태를 가진 다구획 뉴런)을 GPU·매니코어 시대에 맞게 다시 쓴 후발 주자. 세포 그룹 단위 배치와 부하 분산이 처음부터 설계에 들어가 있다.

여기에 여러 시뮬레이터를 하나의 파이썬 API로 감싸는 PyNN, NEURON 위의 망 구축 프런트엔드 NetPyNE 같은 층이 얹힌다. 모형 기술과 실행 엔진을 분리하려는 시도인데, 성공의 정도는 층마다 다르다. 그리고 결과가 시뮬레이터마다 미묘하게 다른 문제는 이 바닥의 만성 질환이다. 원인은 대개 물리가 아니라 스파이크 시각을 반올림하는 방식, 시냅스 지연의 격자 정렬, 난수 스트림 배정 같은 것들이며, 이는 검증 및 확인이 실제로 필요한 지점이 어디인지를 정확히 보여 준다.

5. 파라미터 적합과 축퇴[편집]

모형을 세우고 나면 채널 밀도 수십 개를 정해야 한다. 실측으로 직접 잴 수 있는 값은 그중 일부뿐이라, 나머지는 막전위 궤적·스파이크 시각·f–I 곡선 같은 특징을 목표로 두고 최적화한다. 목적함수가 다봉이고 미분이 잡음투성이라 유전 알고리즘 계열 다목적 최적화가 표준으로 쓰이고, 베이지안 최적화나 시뮬레이션 기반 추론도 들어와 있다.

그런데 여기서 이 분야 최대의 개념적 난제가 나온다. 축퇴(degeneracy) — 전혀 다른 파라미터 조합이 구별 불가능한 출력을 낸다. 프린츠·부허·마더가 2004년에 게 위장신경절의 세 뉴런 리듬 회로를 약 2000만 가지 전도도 조합으로 훑었더니, 그중 2% 남짓이 실측과 구분되지 않는 정상 리듬을 냈다.³ 채널 전도도가 몇 배씩 달라도 같은 리듬이 나온다는 뜻이다.

이건 최적화 실패가 아니라 문제 자체의 성질이다. 실용적 결론이 몇 개 따라온다.

• 평균은 대표가 아니다. 잘 맞는 모형 여러 개의 전도도를 평균 내면 아무 리듬도 안 나오는 모형이 되기 쉽다. 해집합이 볼록하지 않기 때문이다.
• 적합된 파라미터를 실측값이라 주장하면 안 된다. 하나의 해가 아니라 해집합의 모양을 보고해야 하고, 이는 불확실성 정량화와 정확히 같은 문제다.
• 예측을 하려면 섭동을 봐야 한다. 같은 정상 출력을 내는 모형들이 온도 변화나 채널 차단제 투여에는 서로 다르게 반응한다. 모형을 가르는 실험은 정상 상태가 아니라 민감도 해석이 지목하는 지점에 있다.

생물학 쪽 해석도 있다. 뉴런은 채널 단백질을 며칠 주기로 갈아 끼우면서도 발화 패턴을 유지해야 하므로, 넓은 해집합은 버그가 아니라 항상성이 서 있을 수 있는 여유 공간이라는 것이다. 공학에서 강건 설계라고 부르는 것과 같은 이야기다.

6. 대규모 프로젝트와 그 논쟁[편집]

2000년대 중반 이후 “뇌를 통째로 시뮬레이션한다”를 표방한 대형 사업들이 등장했다.

• Blue Brain Project (EPFL, 2005년 출범) — 2015년 Cell 논문에서 어린 쥐 체성감각피질 미세회로 약 0.29 mm³, 뉴런 3.1만 개와 시냅스 약 3700만 개를 형태 수준으로 재구성해 시뮬레이션했다. 자유 파라미터를 최소화하고 해부·생리 데이터로 채워 넣는다는 방법론 자체가 결과물이었다.
• Human Brain Project (EU 기함 사업, 2013~2023) — 10년·10억 유로 규모. 2014년 수백 명의 신경과학자가 공개서한으로 사업 범위와 거버넌스를 비판했고, 이듬해 중재 보고서를 거쳐 대대적으로 재편됐다. 최종 산출물의 무게중심은 “뇌 시뮬레이션”에서 EBRAINS 라는 연구 인프라로 옮겨 갔다.
• BRAIN Initiative (미국, 2013~) · Allen Institute — 처음부터 시뮬레이션이 아니라 측정 기술과 공개 데이터에 걸었다. 세포 유형 분류, 커넥토믹스, 대규모 생리 데이터셋을 표준 자원으로 만들었고, 결과적으로 모형 만드는 쪽이 가장 크게 덕을 봤다.

논쟁의 알맹이는 예산이 아니라 마르의 세 수준이었다. “구현을 충분히 정밀하게 베끼면 계산이 드러나는가?” 회의론자의 반례는 늘 같다 — 예쁜꼬마선충의 302개 뉴런 배선도는 1986년부터 완전히 알려져 있는데도, 그 벌레의 행동을 배선도만으로 예측하지 못한다. 배선의 존재는 시냅스 강도도, 신경조절물질에 따라 회로가 통째로 재배선되는 사정도 알려 주지 않기 때문이다.

그렇다고 재구성 노선이 헛일이었던 것도 아니다. 데이터를 한 모형 안에 넣어 보는 과정에서 어떤 데이터가 결정적으로 비어 있는지가 드러나고, 그 목록이 다음 실험의 우선순위가 된다. 시뮬레이션의 고전적 효용 — 답을 내는 것보다 질문을 정리하는 쪽 — 이 여기서도 유효했다는 평가가 지금은 대체로 공유된다.⁴

7. 인접 분야와의 거리[편집]

• 심층 학습 — 뿌리는 같지만 목적이 다르다. 계산 신경과학은 실제 뇌의 제약(스파이크, 국소 학습 규칙, 에너지 예산) 아래에서 설명을 찾고, 심층 학습은 제약을 버리고 성능을 얻는다. 다만 최근에는 학습된 심층망의 표현과 피질 반응을 정량 비교하는 연구가 활발해 경계가 다시 흐려지고 있다.
• 신경공학·뉴로모픽 — 모형을 실리콘으로 굽는 쪽. 스파이킹 신경망 문서에서 다룬다.
• 군중 시뮬레이션·동역학계 — 수학적 도구가 상당 부분 겹친다. 결합 진동자, 극한 순환, 동기화 이론은 그대로 공용이다.

8. 관련 문서[편집]

• 호지킨-헉슬리 모형 · 활동전위 · 케이블 방정식
• 구획 모형 · 적분-발화 모형 · 스파이킹 신경망
• 피츠휴-나구모 모형 · 흥분성 매질 · 분기 이론
• NEURON · MPI · 부하 분산
• 윌슨-코완 방정식 · 시냅스 가소성 · 튜링 패턴
• 불확실성 정량화 · 민감도 해석 · 검증 및 확인
• 심층 학습 · 저장소 계산 · 이벤트 구동 시뮬레이션

9. Footnotes[편집]

1. 분야 이름 자체는 에릭 슈워츠가 1985년에 조직한 학회에서 굳었다고 알려져 있다. 그 전에는 “신경 모델링”, “이론 신경생물학” 같은 이름이 섞여 쓰였다. 참고로 이 분야에서 “계산”은 컴퓨터로 돌린다는 뜻이 아니라 뇌가 계산을 한다는 주장이다. 그래서 종이와 연필만 쓰는 계산 신경과학 논문도 얼마든지 있다. ↩

2. 마르 본인은 세 수준을 순서대로 위에서 아래로 내려가라고 했지만, 실제 연구는 대개 세 방향으로 동시에 기어간다. 그리고 이 틀은 뇌 밖에서도 잘 먹힌다 — CFD 코드를 “무슨 방정식을 푸는가 / 어떤 이산화와 솔버를 쓰는가 / 어떤 하드웨어에 어떻게 얹히는가”로 갈라 보는 것과 정확히 같은 구조다. ↩

3. Prinz, Bucher & Marder (2004), Nature Neuroscience. 이 논문 이후 신경 모형 논문에서 “우리 모형의 파라미터는 이 값이다”라고 단수로 쓰는 관행이 눈에 띄게 줄었다. 대신 “이런 영역의 파라미터들이 이 거동을 낸다”로 바뀌었는데, 심위키 독자에게는 불확실성 정량화가 한 분야를 통째로 개종시킨 실화로 읽으면 된다. ↩

4. HBP 논쟁이 남긴 교훈을 한 줄로 줄이면 “로드맵의 야심과 검증 가능성은 반비례한다”가 된다. 목표가 클수록 중간 산출물을 무엇으로 판정할지 정하기 어렵고, 그러면 10년 뒤에 아무도 성공·실패를 말할 수 없는 상태가 된다. 대형 시뮬레이션 사업이라면 분야를 불문하고 같은 함정이 기다린다. ↩