전산과학

시뮬레이션 전산과학 마지막 수정: 2026-07-06 04:52:38

전산과학 Computational Science
별칭	과학적 계산, 계산과학
위상	이론·실험에 이은 과학의 제3의 기둥
기반 도구	수치해석 × HPC × 도메인 과학
대표 분야	전산유체역학, 구조해석, 분자동역학, 전자기해석

1. 개요[편집]

이론가는 종이에, 실험가는 실험실에, 우리는 클러스터에 진리를 갈아 넣는다.

전산과학(computational science)은 수학적 모델과 수치해석 기법, 그리고 컴퓨터의 계산 능력을 결합해 과학·공학 문제를 정량적으로 탐구하는 학제간 분야이다. 특정 도메인(유체, 고체, 전자기, 분자 등)에 종속되지 않고, 그것들을 관통하는 공통의 방법론 — 모델링, 이산화, 해법, 검증 — 을 다룬다는 점에서 개별 해석 분야들의 상위 허브에 해당한다.

핵심 통찰은 겉보기에 전혀 달라 보이는 문제들이 수학적으로는 형제라는 것이다. 나비에-스토크스 방정식이 기술하는 유체 흐름, 맥스웰 방정식이 기술하는 전자기장, 슈뢰딩거 방정식이 기술하는 양자계는 전부 편미분방정식이고, 결국 같은 이산화·선형대수 기계로 씹어먹힌다. 전산과학은 이 공통 기계를 벼리는 학문이다.

2. 과학의 제3의 기둥[편집]

전통적으로 과학은 두 다리로 서 있었다. 이론(연역적 모델 구축)과 실험(귀납적 관찰)이다. 20세기 중반 컴퓨터의 등장으로 여기에 세 번째 다리가 추가되었으니, 바로 계산(computation)이다. 이 셋을 합쳐 흔히 과학의 세 기둥이라 부른다.¹

계산이 독립적인 기둥으로 승격된 이유는 명확하다. 이론이 세운 방정식이 손으로는 안 풀리고(나비에-스토크스 방정식의 해석해 부재가 대표적), 실험은 너무 비싸거나 아예 불가능한 영역이 있기 때문이다. 초신성 폭발, 지구 기후 100년 예측, 신약 후보 분자의 결합 에너지 — 이런 것들은 실험실에 재현할 수 없고, 오직 시뮬레이션으로만 접근 가능하다. 계산은 이론과 실험이 닿지 못하는 사각지대를 메운다.²

최근에는 데이터 과학·기계학습을 제4의 기둥으로 꼽기도 한다. 다만 이 넷은 경쟁 관계가 아니라 서로를 보강하는 관계다.

3. 공통 파이프라인: 모델링 → 이산화 → 검증[편집]

도메인이 유체든 고체든 양자든, 전산과학 문제는 거의 동일한 파이프라인을 탄다.

모델링(modeling): 물리 현상을 지배 방정식으로 번역한다. 유체면 나비에-스토크스 방정식, 구조면 탄성론의 지배방정식, 전자기면 맥스웰 방정식, 분자면 뉴턴 역학이나 슈뢰딩거 방정식. 이 단계에서 어떤 물리를 버리고 취할지(가정) 결정된다.
이산화(discretization): 연속적인 방정식을 유한한 대수방정식으로 바꾼다. 유한요소법, 유한체적법, 유한차분법, 스펙트럴 방법 등이 이 단계의 도구. 시간 적분에는 룽게-쿠타법이나 베를레 적분이 동원된다.
해법(solution): 이산화가 낳은 거대한 대수방정식(흔히 수백만~수십억 미지수)을 푼다. 크리로프 부분공간법과 다중격자법, 전처리기가 이 단계의 주역. 비선형이면 뉴턴-랩슨법이 겹친다.
검증(verification & validation): 결과가 방정식을 맞게 풀었는지(verification), 그 방정식이 현실을 맞게 기술하는지(validation)를 확인한다. 검증 및 확인은 전산과학의 양심이다. 이 단계를 생략하면 “예쁜 컬러 그림(colorful fluid dynamics)“으로 전락한다.³

이 파이프라인이 도메인 불변(domain-invariant)이라는 점이 전산과학을 하나의 학문으로 묶는 접착제다.

4. 여러 해석 분야를 잇는 허브[편집]

전산과학의 우산 아래에는 수많은 도메인 분과가 있다. 각자 지배 방정식과 관용 기법은 다르지만, 방법론의 DNA는 공유한다.

분야	지배 방정식	대표 기법
전산유체역학	나비에-스토크스	유한체적법, 난류 모델링
구조해석	탄성 지배방정식	유한요소법, 강성행렬
전자기해석	맥스웰 방정식	FDTD, 모멘트법
분자동역학	뉴턴 운동방정식	베를레 적분, 레너드-존스 퍼텐셜
밀도범함수이론	콘-샴 방정식	밴드 구조 계산
통계·불확실성	확률 모델	몬테카를로 방법

흥미로운 것은 이 분과들이 점점 서로 손을 잡는다는 점이다. 유체와 구조가 만나면 유체-구조 연성이 되고, 여러 물리가 얽히면 다물리 연성해석이 된다. 전산과학은 이 경계면에서 특히 빛을 발한다.

5. HPC: 계산을 떠받치는 근육[편집]

전산과학은 태생적으로 고성능 컴퓨팅(HPC, High-Performance Computing)과 한 몸이다. 수십억 자유도의 시뮬레이션은 단일 코어로는 우주가 끝날 때까지 못 끝내므로, 수천~수백만 코어에 문제를 쪼개 병렬로 돌린다. 이 병렬화는 공짜가 아니다.

영역 분할(domain decomposition): 격자를 여러 프로세스에 나눠주고, 경계에서 데이터를 MPI로 주고받는다. 통신 오버헤드가 성능의 발목을 잡는다.
강한 확장성 vs 약한 확장성: 코어를 2배로 늘렸을 때 정말 2배 빨라지는가(강한 확장성)? 암달의 법칙이 냉정하게 상한을 긋는다.
가속기: GPU가 행렬 연산의 주력으로 올라서면서, 전산과학 코드는 대대적인 이식(porting) 열병을 앓았다. 지금도 앓고 있다.⁴

슈퍼컴퓨터 순위(TOP500)의 벤치마크가 선형대수 문제(LINPACK)인 것은 우연이 아니다. 전산과학의 심장이 결국 거대한 선형 시스템 풀기이기 때문이다.

6. 여담: 갈아넣는 학문[편집]

전산과학의 일상은 “일단 돌려”와 “수렴은 신에게 맡긴다” 사이 어딘가에 있다. 방정식을 세우는 데 하루, 격자를 만드는 데 이틀, 수렴 안 되는 걸 디버깅하는 데 일주일, 그리고 결과가 실험과 안 맞아 처음으로 돌아가는 데 다시 하루. 그럼에도 이 분야가 매력적인 이유는, 실험도 이론도 도달 못한 곳에 인간이 유일하게 발을 디딜 수 있는 수단이기 때문이다. 컴퓨터를 갈아넣는 만큼 자연이 답을 내어준다.

7. 관련 문서[편집]

이 “제3의 기둥” 표현은 1980~90년대 미국 과학계 정책 문헌에서 굳어졌다. 특히 1980년대 Lax 보고서와 이후 PITAC 보고서가 계산과학을 국가 경쟁력의 핵심으로 못박으며 대중화됐다. ↩
물론 시뮬레이션이 실험을 완전히 대체하는 건 아니다. 검증되지 않은 시뮬레이션은 “정교한 추측”에 불과하다. 그래서 실험은 여전히 시뮬레이션의 채점 기준으로 살아남는다. ↩
“Colorful Fluid Dynamics”는 CFD 학계의 유명한 자조 표현이다. 검증 없이 예쁜 컨투어만 뽑아내는 해석을 비꼬는 말. 무지개색은 죄가 없다. 검증을 안 한 사람이 죄인이다. ↩
한 번 CPU용으로 짜둔 레거시 포트란 코드를 GPU로 옮기는 작업은, 전산과학자들 사이에서 “평생 한 번은 겪는 통과의례”로 통한다. 그리고 대체로 예상 공수의 3배가 걸린다. 국룰이다. ↩