[이지수 소장의 슈퍼컴퓨터 이야기(47)] 슈퍼컴, 수학 난제를 해결한다

컴퓨터의 출발점은 수학이다. 복잡한 계산을 효율적으로 처리하기 위해 등장했고, 현재는 관심 있는 현상에 대해 수학적 모형을 세우고 그 결과를 분석하는 등의 방법으로 활용되고 있다.

그렇다면 컴퓨터는 수학 자체의 문제를 해결하는 데 어떻게 사용되고 있을까? 

원의 둘레와 지름과의 비를 나타내는 원주율 파이(π)는 인류 문명과 함께했다. 고대 이집트에서는 이를 피라미드 설계에 사용했고, 인도, 그리스, 중국 등에서는 건축 및 상징의 연구에 이 개념이 중요한 역할을 했다.

파이의 값을 계산하는 일은 기원전 250년 고대 그리스의 철학자 아르키메데스에서 시작돼 지금까지도 계속되고 있다. 특히 컴퓨터의 등장으로 보다 정밀한 계산이 가능하게 됐다.

▲원주율 파이(π): 호주의 과학자들은 파이 제곱의 값을 무려 60조 자리까지 계산하였다. 사진의 인물은 이 계산에 활용된 공식을 발견한 Bailey 박사 (출처: 미 버클리 국립연구소)

세계 최초의 컴퓨터인 에니악(ENIAC)을 이용해 1949년 이를 2037자리까지 계산했고, IT 기술의 발전으로 1973년에는 그 정확도가 100만 자리를 돌파했다.

호주의 과학자들은 최근 ‘파이데이(3월 14일)’ 기념행사의 일환으로 슈퍼컴퓨터를 사용, 이진수로 표현한 파이 제곱의 값을 무려 60조 자리까지 계산했다. 동일한 계산을 PC로 수행하면 약 1500년이 소요된다.

그렇다면 이렇게 정교하게 파이를 계산하는 것이 의미가 있을까? 이를 이용하여 컴퓨터의 온전성(integrity)을 검증할 수 있다.

두 컴퓨터가 계산한 파이값을 비교하면 시스템이 설계한 대로 작동하고 있는지 확인할 수 있다. 실제로 슈퍼컴퓨터 크레이(Cray)-2 시스템을 제작하는 과정에서 이 방법으로 시스템의 문제를 찾아냈다. 또 현재 광범위하게 활용되는 고속 푸리에 변환(FFT: Fast Fourier Transform)도 파이를 계산하는 작업에서 유래했다.

수학의 오랜 난제 중 하나는 ‘4색 문제(Four Color Problem)’다. 평면을 유한개로 나누어 각 부분에 색을 칠할 때, 서로 맞닿은 부분을 다른 색으로 칠하기 위해서는 네 가지 색이면 충분하다는 가설이다. 이 문제는 지도에서 서로 인접한 지역에 다른 색을 칠하는 것에서 착안됐다.

▲4색 문제(Four Color Problem): 평면을 나누어 색을 칠할 때 서로 맞닿은 부분이 다르기 위해서는 몇 가지 색이 필요할까? (출처: 위키피디아)

이 문제는 독일 수학자 뫼비우스가 1840년 최초로 언급했고, 영국 수학자인 구드리(Guthrie)에 의해 1852년에 제안됐다. 이와 관련해 3색 문제는 반례를 통해 가능하지 않음을 보였고, 5색 문제는 가능하다는 것이 증명됐다.

4색 문제는 1879년 켐프(Kempe), 1880년 테이트(Tait)가 증명을 발표했으나, 추후 검증에서 그 논리에 결함이 있는 것으로 밝혀졌다. 독일의 수학자 헤쉬(Heese)는 이를 컴퓨터로 해결하려고 노력해 많은 진전을 이루었으나 컴퓨터 성능의 부족으로 해답에 이르지는 못했다.

이러한 노력이 계속되어 1976년 미국의 수학자 아펠(Appel)과 하켄(Haken)이 4색 문제의 해를 발표했다.

이들은 4색 문제가 거짓인 경우 서로 다른 색으로 칠하기 위해 5개의 색이 필요한 경우가 존재해야 한다는 점에 주목했다. 가능성은 무한이지만 이를 1936개의 단순한 형태로 줄일 수 있었고, 이들을 컴퓨터로 모두 조사해 문제를 해결했다.

수학의 또 다른 수수께끼 중 하나는 골드바흐 추측(Goldberg's Conjecture)이다. 골드바흐가 1742년 오일러에 보낸 편지에 최초로 언급된 내용으로, "모든 짝수는 두 개의 소수(prime number)의 합으로 표현될 수 있다"는 것이다.

200년이 훨씬 넘은 지금까지도 이 가설의 진위는 증명되지 않고 있다. 작은 수에 대해서는 이를 확인하는 것이 용이하지만 숫자가 커지면서 그 어려움도 증가한다.

1938년 핀란드의 수학자 피핑(Pipping)은 10만 이하의 수에 대하여 개별적으로 확인하는 방법으로 이 가설이 옳다는 것을 보였다. 이러한 흐름은 슈퍼컴을 이용해 검증하는 노력으로 이어졌다. 

최근 한 국제 공동 연구팀은 미 과학재단(NSF: National Science Foundation)의 슈퍼컴퓨터를 이용, 이를 검증하는 작업을 진행하고 있다. 하루 100조 개의 숫자에 대하여 반례를 점검하고 있으며 현재 400경 이하의 숫자에서는 이 가설이 성립함을 보였다.

[이지수 소장 약력] -미 보스턴대학 물리학 박사 -독일 국립슈퍼컴센터 연구원 -한국과학기술정보연구원(KISTI) 슈퍼컴퓨팅센터 센터장 -사단법인 한국계산과학공학회 부회장 -Journal of Computational Science 편집위원 -(전) KISTI 국가슈퍼컴퓨팅연구소 소장 -(현) KISTI 책임연구원