폰 노이만과 프로그램 내장방식

폰 노이만과 프로그램 내장방식

과학향기

현대 컴퓨터의 모델을 제시한 사람, 게임이론을 창시한 사람, 인공생명체의 가능성을 연구한 사람, 원자폭탄을 만드는데 참여한 사람. 이 모든 일과 관계된 사람이 있다면 믿겠는가? 그 주인공이 바로 헝가리 출신의 수학자이자 물리학자 ‘존 폰 노이만’(1903~1957)이다. 1903년 12월 28일 그가 태어나지 않았더라면 디지털 시대는 상당히 늦게 시작됐을 것이다.

노이만은 어려서부터 재능이 뛰어났다. 그가 10살 때 김나지움 학교에 들어가자 그의 재능을 알아 본 한 교사가 부다페스트대 출신의 수학자 미차엘 페케테에게 정기적으로 개인교습을 받도록 추천했다. 이후 두 사람은 공동저자로 수학학술지에 논문을 싣기도 했다.

1930년 계속되는 정치적 혼란 속에서 노이만은 미국 프린스턴대학 객원교수의 자격으로 고향을 떠났다. 그는 헝가리가 나치의 편이 되는 것을 우려했고 거기에 휩쓸리기가 싫었던 것이다. 제2차 세계대전이 터지자 핵폭탄 개발계획인 맨해튼 프로젝트에 참여했는데 이 역시 정치적 극단주의에 대한 혐오 때문이었다.

노이만이 미국에 도착했을 때에는 수학에 기여한 업적으로 이미 국제적인 명성을 얻고 있었다. 특히 1944년 오스카르 모르겐슈타인과 ‘게임과 경제행동 이론’을 저술해 경제학의 게임이론을 창시했다. 그들은 게임에도 최선의 방법이 존재하며 수학적으로 그 과정을 증명해 냈다.

또 냉전 시절 미국과 소련의 관계를 제로섬 게임으로 규정했는데, 이는 아담 스미스의 ‘개인의 최대 이익이 곧 전체의 최대 이익’이라는 고전 경제학의 입장을 완전히 뒤엎는 계기가 됐다.

그러나 노이만의 순수연구는 정세가 급박해지면서 점차 응용분야로 확장돼 갔다. 1941년에는 전쟁과 관련된 연구가 전체 연구 시간의 4분의 1을 차지했다. 그는 원자폭탄의 개발과정에 깊이 개입하면서 컴퓨터 개발의 역사에 커다란 자취를 남기게 된다. 당시 원자폭탄과 관련된 다양한 모의실험을 위해 빠른 속도로 계산할 수 있는 컴퓨터가 필요했기 때문이다.

노이만이 제안한 것은 바로 ‘프로그램 내장형 컴퓨터’다. 노이만은 1944년 애니악(ANIAC) 개발에 참여하다가 컴퓨터에 다른 일을 시키려면 전기회로를 모두 바꿔줘야 하는 불편함을 발견했다. 이 문제를 해결하기 위해 그는 프로그램 내장방식이란 개념을 제시한 것이다.

프로그램 내장방식은 중앙처리장치(CPU) 옆에 기억장치(memory)를 붙인 것인데, 프로그램과 자료를 기억장치에 저장해 놓았다가 사람이 실행시키는 명령에 따라 작업을 차례로 불러내어 처리하는 방식이다. 기존의 에니악 컴퓨터는 작업을 할 때마다 전기회로를 바꿔 끼워야 했지만 프로그램 내장형 컴퓨터에서는 소프트웨어만 바꿔 끼우면 되는 셈이다.

폰 노이만의 프로그램 내장방식은 오늘날 컴퓨터의 발전에 크게 기여했다. 사진제공 동아일보.

현재 우리가 사용하고 있는 대부분의 컴퓨터도 노이만의 개념에 따라 설계되고 있다. 노이만의 프로그램 내장방식은 오늘날에는 당연한 것으로 여겨지지만 당시에 이 개념은 굉장히 획기적인 발상이었다. 컴퓨터 운영은 작업에 따라 계산 알고리듬을 개발하고 이에 맞춰 진공관을 일일이 교체하거나 종이테이프를 이용해 컴퓨터가 해야 할 일을 사람이 교체하는 식으로 진행됐기 때문이다.

마침내 노이만의 펜실베이니아대학 연구실에서 공부했던 영국 유학생 모리스 윌크스가 1949년 영국 케임브리지대학에서 에드삭(EDSAC) 컴퓨터를 개발함으로써 최초의 프로그램 내장방식 컴퓨터가 탄생했다.

노이만은 물리학에도 관심을 갖고 맨해튼 프로젝트뿐 아니라 수소폭탄 개발계획에도 참여했다. 플루토늄의 내파 비율에 관한 그의 계산 방식은 원자탄을 개발한 핵 과학자들이 과거 수차례 실패한 실험을 교정해줬다.

1945년 8월, 이론적인 핵폭탄 위력이 일본에서 대참사로 나타나자 맨해튼 프로젝트에 참여한 과학자들은 큰 충격을 받았다. 인류를 위해 이바지한다고 믿었던 자신들의 연구 성과가 인류의 생명을 앗아가는 잔혹한 무기가 될 수 있음을 목격했기 때문이다.

맨해튼 프로젝트를 지휘한 로버트 오펜하이머는 “손에 묻은 피가 지워지지 않는다”며 트루먼 미국 대통령을 찾아가 핵무기 폐기를 주장하고 수소폭탄 개발을 반대했다. 또 핵폭탄 개발을 강력하게 주장했던 레오 질라드는 아예 전공을 물리학에서 생물학으로 바꿔버릴 정도였다.

그러나 노이만은 끝까지 핵폭탄 개발의 정당성을 옹호했다. 그는 “미국이 강력한 무장을 해야 한다”며 “소련에 수소폭탄을 투하해 소련의 수소폭탄 개발을 사전에 막아내야 한다”고 주장했다. 역설적으로 이 같은 행동은 그에게 불행을 가져다 줬다. 노이만은 1957년 골수암으로 숨을 거뒀는데, 그가 수소폭탄 실험에 직접 참관한 것이 암에 걸린 원인으로 알려졌다.

노이만의 게임이론으로 두 나라의 핵개발 문제를 살펴봤을 때 가장 좋은 선택은 두 나라 모두 핵무기를 개발하지 않는 것이다. 이런 결과를 알았을 노이만이 원자폭탄과 수소폭탄의 개발을 왜 옹호했는지는 여전히 의문이다.

글 : 서금영 과학칼럼니스트

과학향기 출처 : KISTI의 과학향기