왜 수학을 공부해야 하는가?_박태호
지식에서 '근대'를 특징짓는 것은 과학이다.
즉 지식에서 근대는 과학의 탄생과 더블어 시작되었다. 과학의 탄생과 더불어 철학이나 다른 지식들의 관계, 배치 전체에 근본적인 변화가 발생했다. 과학의 탄생, 그것은 분명 지식의 영역에서 하나의 거대한 '혁명'이었다. 이를 흔히 '과학혁명'이라고 부른다.
과학혁명과 근대
지식에서 ‘근대’를 특징짓는 것은 과학이다. 즉 지식에서 근대는 과학의 탄생과 더불어 시작되었다. 과학의 탄생과 더불어 철학이나 다른 지식들의 관계, 배치 전체에 근본적인 변화가 발생했다. 과학의 탄생, 그것은 분명 지식의 영역에서 하나의 거대한 ‘혁명’이었다. 이를 흔히 ‘과학혁명’이라고 부른다.
이 과학혁명이 한 두 사람에 의해 이루어진 게 아니라는 것은 두말할 필요가 없다. 하지만 흔히 그러하듯이 수많은 사람들이 연관된 사건들이 거기서 결정적인 역할을 한 어떤 하나의 이름으로 대표/표상되는 경우가 많다. 과학혁명의 경우도 그렇다. 아마도 근대과학혁명을 표상하는 하나의 이름을 적어야 한다면, 우리를 ‘갈릴레이 갈릴레오’라고 적어야 할 것이다. 그러나 17세기를 하나의 문턱으로 만든 이 사건을 제대로 이해하기 위해선 여기에 최소한 몇 개의 이름을 더 적어야 한다. 케플러, 데카르트, 뉴튼이 그것이다.
알다시피 케플러는 태양을 중심으로 운행하는 별들의 운행법칙을 찾아낸 사람이다. 그는 스승이었던 테코 브라헤의 천문관측자료를 갖고 코페르니쿠스의 이론을 증명하고자 했지만(티코 브라헤는 원래 천동설을 증명하고 싶어했지만), 자료는 그 이론에 따라 계산된 궤도를 따라 배열되지 않았다. 양자를 합치시키려는 오랜 노력의 끝에서 그는 이론 자체를 수정하지 않으면 안된다는 생각을 했고, 그래서 별들이 태양 주위를 원이 아니라 타원형의 궤도를 그리며 돈다는 것을 알아냈다(태양은 그 타원의 한 초점이다). 더불어 그 운행의 속도가 태양으로부터의 거리에 따라 달라진다는 것, 공전주기와 그 거리 사이에 어떤 법칙이 있음을 밝혀냈다.
이러한 근대 과학혁명의 절정은 잘 알다시피 뉴튼이었다. 그는 케플러가 발견한 별들의 운행법칙과 갈릴레이가 찾아낸 지상에서 사물의 운동법칙을 하나로 통합하여 이른바 ‘만유인력의 법칙’이라는 통일된 보편적 운동법칙을 찾아냈다. 그러나 우주에서의 운동법칙과 지상에서의 운동법칙을 어떻게 하나로 통합할 수 있었을까? 그것은 일단 갈릴레오가 찾아낸 지상의 운동법칙이 공기의 저항을 0이라고 가정했기 때문에, 다시 말해 진공에서 일어난다고 가정했기 때문에, 공기 저항이 없는 우주에서의 운동법칙과 쉽게 통합될 수 있었다고 할 지도 모른다. 그러나 정말 본질적인 것은, 그것이 가능하기 위해선 공간의 모든 이질성을 제거하여 오직 위치와 거리, 속도, 그리고 운동하는 물체의 궤적으로 통합해서 다룰 수 있게 했던 데카르트 공간, 그리고 그 거리나 궤적 같은 기하학적 요소를 대수적인 함수로 치환하려고 했던 데카르트의 해석기하학이 있었어야 했다는 사실이다. 즉 뉴튼은 데카르트 공간을 통해서 케플러가 찾아낸 별들의 운행법칙과 갈릴레오가 찾아낸 지상의 운동법칙을 하나로 통합할 수 있었다는 것이다. 물론 그러기 위해선 운동을 다룰 수 있는 새로운 종류의 수학(미적분학)이 필요했지만 말이다.
과학혁명과 수학
그럼에도 불구하고 근대 과학혁명의 요체를 말하기 위해 하나의 이름을 적어야 한다면 갈릴레오라고 적어야 하는 이유는 무엇인가? 그것은 근대 과학의 본질을 그의 기획이 적절하게 포착하고 있었기 때문이다.
근대 과학의 본질을 묻는 질문에 대해 우리는 ‘실험과학’이라든가 실험을 통한 증명가능성을 갖는 지식이라는 식으로 대답한다. 그것은 자연과학에 대한 우리의 통념에 아주 충실하기 때문에 별다른 의심없이 받아들여진다. 이러한 통념적 믿음을 확인해주는 것이 이른바 ‘피사의 사탑’에서 갈릴레오가 했다는 실험이다. 쇳덩어리와 나무덩어리처럼 질량이 다른 물체를 동시에 떨어뜨렸더니 똑같이 땅에 떨어졌다던가 하는. 그러나 그것은 어떤 것의 위대한 출발을 기념하기 위해 만들어지는 허구적 기원이라는 의미에서 하나의 신화(!)였다. 그것은 일단 사실과 부합하지 않는다. 무거운 물체와 가벼운 물체는 공기 중에서 결코 똑같은 속도로 떨어지지 않는다. 공기의 저항(부력) 때문에, 가벼운 물체는 나중에 떨어진다. 갈릴레오 말대로 똑같이 떨어지려면 공기의 저항이 없어야 한다. 즉 진공 중에서만 가능하다. 즉 실험적 증명의 신화를 순진하게라도 믿고 싶다면 피사의 사탑 주변에 공기가 없었다고 가정해야 한다. 역으로 공기가 있었다면, 피사의 사탑 실험은 갈릴레오의 자유낙하법칙을 반박했을 것이다! 또 하나, 진공을 만드는 게 불가능했으니, 누군가 다르게 떨어지는 것을 증명하고 싶다고 해도, 실험에 필요한 기초 장비가 그것을 받쳐주지 못했을 것이다. 가령 측정장치인 시계만 해도 그렇다. 그 당시 기계적 시계에는 초침은 커녕 분침도 없었고, 통상 시계의 오차가 하루에 1시간 가량 났었다고 한다. 그런 시계로, 초를 다투며 떨어지는 물체들의 석도를 측정한다는 것은 불가능했을 것이다. 시계보다는 차라리 맥박이 더 나았지만, 그것의 측정능력을 우리는 과연 얼마나 신뢰할 수 있을까?
물론 실제로 실험이라고 명명될 활동이나 실험적인 지식이 있었다. 그러나 그것은 차라리 ‘과학’이 아니라 ‘마술’의 영역에 속한 것이었다. 즉 실험의 기술이나 능력, 실험적 지식을 발전시켜갔던 것은 흔히 ‘마술사’라고 불리기도 하던 연금술사들이었다. 지금도 실험실을 표상할 때 가장 먼저 떠오르는 비커나 스포이드, 플라스크 등은 모두 그들의 발명품이었다. 그들은 근대의 과학혁명 이후 탄압과 배제의 시도에도 불구하고 적어도 화학의 영역에서는 라부아지에에 의해 근대과학에 편입된 19세기초까지 계속해서 존속하고 있었다. 사실 뉴튼조차 ‘만유인력의 법칙’의 법칙을 제시한 ������자연철학의 수학적 원리������ 이후 몰래 마술을 연구했다는 것은 지금은 잘 알려진 사실이다. 만약 실험과학이 근대 과학의 요체하고 한다면, 그 기원의 자리를 차지해야 했던 것은 갈릴레오보다 훨씬 먼저인 13세기에 자석의 성질을 관찰하고 실험했던 페트루스 페레그리누스에게 그 자리를 넘기는 게 더 나을 것이다(야마모토 요시다카, ������과학의 탄생������).
그렇다면 갈릴레오는 어떻게 ‘근대 과학혁명의 아버지’가 되었던 것일까? 아니, 갈릴레오가 그 ‘아버지’로 간주된다는 것을 통해 확인할 수 있는 근대 과학혁명의 요체는 무엇일까? 현상학을 창안했던, 수학자였기도 했던 철학자 후설은 근대 과학과 관련된 갈릴레오의 기획을 ‘자연의 수학화’라고 파악한다. 자연의 운동법칙을 수학화하는 것, 그것이 갈릴레오의 기획을 그 이전의 모든 ‘과학적’ 지식과 구별해주는 것이라는 것이다. 이런 점에서 실험적 지식의 선행자였던 페레그리누스나, 심지어 과학혁명의 주역으로서 그보다 선행했던 케플러가 아니라, 갈릴레오가 그러한 새로운 종류의 지식을 구성하려는 일반적 기획의 창안자로서 ‘근대 과학의 아버지’가 될 수 있었던 것이다(케플러는 아버지보다 먼저 태어난 아들이었던 셈이다!).
자연의 수학화란 자연현상이나 운동을 수학적으로 계산가능한 것으로 만드는 것이다. 가령 강을 따라 흐르는 물의 힘이나 유속의 변화를 계산가능하게 만드는 것, 혹은 거세게 부는 바람의 힘과 속도를 계산가능한 것으로 바꾸는 것, 그런 것이 ‘자연현상을 수학화’하는 기획에 속하는 사례다. 그렇게 어떤 사물이나 현상을 수학화하고 계산가능하게 할 수 있다면, 아직 발생하지 않는 것 역시도 그에 기초해서 계산할 수 있으며, 이로써 이후 발생할 사태를 예측할 수 있다. 앞으로 한 시간 지나면 그 물체는 얼마의 속도로 어디에 가 있을 것이며, 거세게 밀려가는 저 강물의 힘의 아마도 2시간 뒤면 방조제를 무너뜨리게 될 것이다 등등. 잘 알다시피 지금은 일기의 변화까지도 컴퓨터(이 말 역시 계산하다라는 말에서 나왔다)로 계산하여 예측한다.
만약 이렇게만 된다면 우리는 이후에 발생할 사태에 적절하게 준비하고 대책을 세울 수 있을 것이고, 하늘을 나는데 필요한 힘을 계산한 크기도 만들어낼 수만 있다면 하늘을 날 게 될 수 있을 것이다. 그것은 예측불가능하게 인간을 덮쳐오는 자연의 ‘습격’에 대해 적절하게 대처할 수 있는 힘을 인간에게 제공할 것이며, 나아가 자연을 변형시키고 그것을 인간의 뜻대로 이용할 수 있는 능력을 인간에게 제공할 것이다. 이런 의미에서 베이컨이 과학을 염두에 두고 말했던 것처럼 “아는 것이 힘이다.” 즉 과학은 인간에게 자연을 지배하고 통제할 수 있는 힘을 줄 것이다.
그 경우 남는 것은 과학이 계산한 힘을 실제로 만들어내고 그 힘을 통제할 수 있는 것일 게다. 전통적으로 ‘기술technology'이란 이처럼 자연을 통제할 수 있는 능력을 만들어내는 활동영역을 지칭했다. 이는 19세기 후반 이래 ‘공학engineering’으로 분화되고 체계화되었다. 이런 점에서 과학이 ‘계산가능성’을 추구한다면, 기술이나 공학은 ’통제가능성‘을 추구한다고 말할 수 있을 것이다. 물론 그 통제가능성은 과학이 제공하는 계산가능성에 기초한다. 그래서 운동법칙을 계산하는 자연과학은 ‘기초과학’이 되고, 그것을 이용하여 통제가능한 장치들을 생산하는 공학은 ’응용과학‘이 된다. ’과학’이라는 말이 일차적으로 지칭하는 것은 이 두 가지 과학이다.
과학의 성공은 분명했다. 갈릴레오만 해도 종교재판소의 권위 앞에서 자신의 신념을 철회해야 했지만, 뉴튼은 누릴 수 있는 최상의 영광을 얻었다. 자연현상 전체를 하나의 이론으로 설명할 수 있었다는 것도 놀라운 일이었지만(물론 일부 ‘비협조적인’ 것들도 있었지만), 그것이 갖는 현실적 힘의 가능성이 점차 가시화됨에 따라, 그리고 거기서 파생된 새로운 연구들이 급속하게 증식됨에 따라, 과학은 이제 진리의 전범이 되었고, 과학은 모든 지식이 지향해야 할 모델이 되었다. 이제는 어떤 지식도 자신이 참된 것임을 주장하려면 과학의 일종이 되어야 했다.
여기서 물리학이 다른 과학을 포함한 다양한 지식에 대해 행사한 영향력이 막강했다는 것은 길게 말할 필요가 없다. 모든 것은 기계적인 것의 역학적 운동으로 설명되었다. 자연은 하나의 거대한 기계(시계처럼 복잡한)였고, 동물도 모두 기계의 일종이었다. 그러나 단지 그것만은 아니었다. 과학이 계산가능성을 추구했고, 근대 과학의 기획 자체가 자연의 수학화였던 만큼 물리학보다 훨씬 더 일차적이고 근본적인 지위를 차지했던 것은 수학이었다. 어떤 것도 수학적인 것이 되어 계산의 관념이 스며들 수 있게 되면 과학이 될 수 있었고, 역으로 과학이 되고자 하는 것이라면 무엇보다 먼저 수학을 도입해서 사용하는 방안을 추구해야 했다. 가령 지금까지 경제학에 대해 누구도 그것이 과학임을 의심하지 않는 것은 일차적으로 그것이 수학적인, 너무도 수학적인 것이라는 사실 때문이다. 사회학이나 심리학, 심지어 생물학이나 의학조차 수학적인 것에 대한 강박증을 갖고 있다. 통계학이든 게임이론이든 수학적인 방법을 사용할 수 있을 때, 그것은 자신이 과학적 지식으로서 정당화된다고 믿는다.
계산가능성
‘계산가능성’(calculability)에 대한 추구는 근대 이후 서구 과학 전체를 특징짓는 방향이었고, 지금은 모든 과학자들이 추구하고 추종하는 방향이기도 하다. 과학이라는 말이 사고나 행동, 연구나 실천을 특징짓는 어떤 태도를 가리키는 것이라면, 그것은 ‘계산가능성’이라는 한 마디 말로 요약할 수 있다. 이는 근대 이후의 서구를 제외하고는 어디서도 찾아보기 힘든 특징이고 태도였다.
수학이 근대 과학에서 핵심적인 자리를 차지하는 것은 이런 점에서 보면 당연해 보인다. 그래서 심지어 경제학은 물론 사회학이나 심리학, 정신분석학도 수학을 도입하고 수학적인 표현을 써야 비로소 과학이 된다고 까지 생각하는 사람이 있는 것이다. 그들에게 정확함과 엄밀함, 예측 내지 계산가능성 등은 수학 없이는 생각하기 힘든 것이기 때문이다.
이는 그저 남 얘기만은 아니다. 17-18세기의 서구를 살았던 사람들은 물론, 이후의 시기를 살았던 서구인이나, 심지어 그 시기 서구라는 공간에서 살지 않았던 지금의 우리도 저 ‘계산가능성’의 그물에서 자유롭지 않다. 특히 모든 사물을 계산가능한 관계 속으로 끌어들이는 화폐, 그 화폐가 만드는 계산공간은 집 밖에만 나가면 피하기 힘든 그물임이 분명하다. 그리고 우리가 좋든 싫든 열심히 계산하고, 또 계산에 따라 행동하는 데 머물고 있다면, 우리 자신도 그 그물 안에서 계산가능성을 확장하는 또 다른 그물을 치고 있는 것이라고 말해야 하지 않을까?
물론 계산가능성을 향해 나아가려는 이러한 태도의 기원을 그리스의 기하학이나 인도와 아라비아의 수학에서 찾으려는 사람들도 있을 것이다. 그러나 모든 것을 계산가능한 것으로 만들려는 시도는 숫자와 무관해보이는 곳에서 숫자로 계산할 수 있는 방법을 찾을 때 비로소 가능한 일이라는 사실을 잊어선 안 된다. 즉 수학과 무관해 보이는 것에서 수학적 관계를 찾고, 수가 아닌 것을 수로 환원하려는 것이 ‘계산가능성을 추구한다’는 말의 참뜻인 것이다. 그렇기에 그것은 대수학이니 기하학 같은 어떤 종류의 수학적 계산방법이 있었다거나 발달했었다는 것과는 전혀 다른 태도요 사고방식인 것이다.
가장 두드러진 예는 아마도 ‘확률’일 것이다. 그것이 도박에서 기원했다는 것은 유명한 사실이다. 즉 불확실성이 지배하는, 저 예측하기 힘든 도박의 세계를 어떻게 하면 계산하고 예측할 수 있게 만들 수 있을까 하는 질문이, 불확실한 것의 계산을 목표로 하는 확률이란 계산법을 낳았던 것이다.
확률에 이어서 배우게 되는 통계학도 마찬가지다. 어떤 사건에 대한 의견들, 어떤 정당에 대한 의견들처럼 사람들마다 다른 대답들을 어떻게 계산할 수 있을까? 그에 따라 어떤 주장을 내세웠을 때 그들이 얼마나 지지할 것인가? 혹은 많이 배운 사람과 적게 배운 사람은 얼마나 소득이 차이가 날까? 내년에는 인구가 얼마나 늘어날까? 이 모든 불확실한 사실들을 어떻게 하면 정확하게 예측하고 계산할 수 있을까? 또 그런 계산이 얼마나 정확한지는 또 어떻게 계산할 수 있을까? 이것이 통계학을 낳게 한 질문이었다.
통계학이 국가(stste)라는 말에서 파생된 ‘statistics'('국가학’이란 뜻이다)로 불리는 것은, 바로 이런 질문이 혁명과 무질서, 그리고 인구문제에 고심하던 19세기 유럽의 국가들이 피할 수 없었던 질문이었기 때문이다. 올해 인구는 얼마나 늘어날 것이며, 유아사망률은 또 얼마나 늘어날 것인가, 노동자들의 평균생계비는 어떠하며 평균임금은 어떠한가? 그들을 포섭하기 위해서 허용가능한 임금인상폭은 대략 얼마나 되어야 할 것인가? 실제로 국가관리들은 그것을 계산하기 위해 엄청난 비용을 들여 조사하고 계산했으며, 좀더 정확한 계산방법을 찾으라고 과학자들을 촉구했고, 그것이 노동자나 대중들의 행동을 예측하고 통제하는데 매우 중요한 역할을 했다는 것은 잘 알려진 사실이다. 지금까지 인구조사, 실업통계, 임금통계, 경제통계 등 통계학의 국가적 영역은 더욱더 확장되어왔다. 선거 때면 빈번히 해대는 여론조사 역시 이런 기술의 일부다.
내친 김에 좀더 말하자면, 함수라는 개념 역시 변수들 간의 관계를 ‘계산가능한 것’으로 만드는데 매우 효과적이다. 그것은 어떤 것이든지 변수라고 불리는 것으로 바꾸면, 그것들 간의 관계가 어떻게 변할 지를, 변수들 간의 수학적 관계에 따라 예측하고 계산할 수 있게 해주는 방법이다.
예를 들어 어떤 사람들의 피부색이 검정이면 ‘노예’라는 계급을 대응시키고, 피부색이 흰색이면 ‘주인’이라는 계급을 대응시킨다면, 우리는 피부색과 계급이라는 변수간에 함수관계를 정의할 수 있다. 그러면 우리는 피부색만 보면 그가 어떤 계급인지 알 수 있다. 또 학벌과 소비패턴을 대응시킬 수 있다면, 우리는 학벌만으로, 어떤 사람이 특정 상품에 대해 얼마나 관심을 가질 지를 예측하고 계산할 수 있다. 즉 어떤 집단의 사람들의 학벌에 대한 정보가 있다면, 그 사람들 각자에게 어떤 광고문을 보내는 게 적절한 지를 예측하고 계산할 수 있다.
보편수학의 이념
자연의 운동을 계산할 수 있게 되면서 이제 자연현상은 수학적으로 계산되고 예측가능한 것이 되었다. 그리고 그것은 자연현상에 대한 통제가능성을 부여했다. “아는 것이 힘이다”라는 베이컨의 유명한 말은 바로 이를 표현하는 것이었다. ‘아는 것’이란 지식을 뜻한다. 그리고 힘이란 자연에 대한 통제능력, 혹은 자연에 대한 지배능력을 뜻한다. 자연에 대한 통제력을 부여해주는 지식, 그것은 바로 과학이었다. 그리고 수학이 바로 이 모든 것을 가능하게 해주는 기초였다. 특히 운동을 계산할 수 있는 미적분학은 이런 점에서 수학의 꽃으로 자리잡게 된다. 수학, 특히 미적분학 없는 과학이나 공학은 있을 수 없다. 수학이 모든 과학도나 공학도의 필수과목이 된 것은 이런 이유에서다.
예전에는 계산할 수 없었던 것을 계산할 수 있게 되면서 이제 자연만이 아니라 모든 것을 수학화하고자 하는 욕망이 나타나 지식의 새로운 배치를 형성하기 시작했다. ‘보편수학mathesis universalis’이라고 부르는, 하나의 분과라기보다는 일종의 초분과적 기획이 그것이다. 예컨대 라이프니츠는 모든 것을 수학화하기 위해서는 영역을 가리지 않고 수학적 언어로 바꿀 수 있어야 한다고 생각했고, 이런 이유에서 수학화에 적절한 기호학이나 기호들을 고안해냈다. 모든 수학화하려는 태도란 점에서 이는 일종의 이념 같은 것이라고 해도 좋을 것이다.
이 이념은 17~18세기 서구 지식 전반의 방향을 규정하는 힘이기도 했다. 그래서 과학과 관련된 것뿐만 아니라 음악이나 미술처럼 수학과는 거리가 멀어보이는 것도 수학의 일종의 편입시켰다. 미술의 경우 르네상스 시대에 피렌체에서 발명된 투시법perspective이 지배적인 것이 되되면서 사실의 정확한 재현을 미덕으로 삼는 미의 관념이 출현하게 되었고, 이로 인해 사람들의 근육에 대한 해부학이 미술에 입문하는 첫 번째 관문이 되기까지 한다. 여기서 투시법은 두 번의 수학적 변형을 거쳤음을 안다면, 그에 바탕한 미술이 수학의 일종이 될 수 있었다는 사실을 이해하기는 어렵지 않을 것이다. 한번은 1435년 ������회화론������에서 알베르티가 투시법의 정확한 재현능력에 대해 제공한 기하학적 증명이고, 다른 한번은 역으로 데자르그가 투시법을 사영기하학이라는 수학의 일종으로 변형시켰다는 사실이다.
음악은 이미 베버가 ������음악사회학������에서 보여준 것처럼, 평균율의 성립을 통해 서양 음악의 음계를 피타고라스의 이론을 통해 ‘합리화’됨으로써 수학적인 현상에 포섭되었다. 피타고라스에 따르면 현의 길이를 반으로 자르면 음정이 1옥타브 올라가고, 2:3으로 자르면 5도 올라간다. 이를 이용해 8개의 음정으로 구성된 음계들을 12개의 반음으로 평균화한 것이 평균율인데(바흐의 ������평균율 피아노 곡집������은 이를 음악적으로 증명한 것이다), 이런 점에서 음계 자체가 수학적으로 구성되었으며 음악이란 수학적인 화음 개념에 따라 수학화된 현상으로 간두되었던 것이다.
물론 박물학이나 의학처럼 수학화된 않은 지식이 많이 있었지만, 이 역시 인간의 능력이 못미쳐 ‘아직’ 수학화되지 못한 것이며, 머지않아 인식이 발전함에 따라 수학화되리라고 확신했다. 이처럼 모든 지식을 수학의 일종으로서 하나의 보편적인 수학적 체계에 편입시키는 것이 바로 보편수학의 기획이었다. 이러한 이념이 지금까지 남아있다고는 할 수 없지만, 가령 부르바키의 대수학이론을 이용해서 친족관계의 심층구조를 드러내고자 했던 레비스트로스의 구조인류학이나 프로이트가 창안한 정신분석학을 수학화하고자 이런저런 수학적 기호를 도입했던 라캉 같은 경우도 그렇지만, 사회적 관계의 분석을 위해 네트워크 분석을 사용하거나 정치적 현상을 설명하기 위해 게임이론을 사용하는 경우를 보면, 아직도 수학화의 이념은 인문사회과학까지 포함한 광범한 영역에서 그 영향력을 유지하고 있는 것 같다.