극한을 직관적으로 이해하기 (미적분학을 떠받치는 아이디어)

모든 미적분학 교과서의 첫 장은 극한으로 시작하지만, 그 장을 다 읽고 머리가 맑아진 채 빠져나오는 학생은 거의 없습니다. 표기법은 빽빽하고, 예제는 가장 이상한 사례부터 들이대기 일쑤이며, 형식적 정의에는 강의 한 시간이 통째로 필요한 그리스 문자가 등장합니다. 정작 극한이 쓰임새를 발휘하는 부분(미분, 적분, 그 뒤의 미적분학 전부)에 도달할 무렵이면, 대부분의 독자는 이미 절차를 외우고 운에 맡기기로 마음을 굳힌 뒤입니다.

이 글은 형식적 정의가 아닙니다. 극한이 실제로 무엇이며, 애초에 왜 이 개념이 필요했는지, 그리고 미적분학의 이후 모든 아이디어를 어떻게 조용히 받쳐주는지를 그려 보여주는 글입니다. 한 번 읽고 나면, 그 첫 장의 나머지는 자연스럽게 이해될 것입니다.

극한이 실제보다 더 무섭게 들리는 이유

수학을 공부하는 학생에게 극한이 무엇이냐고 물으면, 보통 두 가지 대답 중 하나가 돌아옵니다. "함수가 다가가는 값" 아니면 "사실 잘 모르겠어요." 둘 다 솔직한 답입니다. 첫 번째는 옳지만 모호하고, 두 번째는 직관이 자리 잡기 전에 형식적 정의를 손에 쥐어 받은 사람의 목소리입니다.

평이한 한국어로 말하자면, 극한은 단 하나의 질문에 대한 답입니다. 이 함수는 어디로 향하고 있는가? 실제로 거기 도착할 필요는 없습니다. 함수가 어디로 가고 있는지를 보기만 하면 됩니다.

이것이 개념의 전부입니다. 나머지는 답이 불분명하거나 의외인 경우를 처리하기 위한 장부 정리에 불과합니다. 이 장의 나머지를 읽는 동안 "이건 어디로 향하고 있지?"라는 물음만 잡고 있으면, 형식적 장치들은 이미 이해하고 있는 것을 정밀하게 못 박는 신중한 방법처럼 보이기 시작합니다.

단순한 버전: 함수는 어디로 가고 있는가?

f(x)가 x 더하기 1인 함수를 떠올려 봅시다. x가 3일 때 값은 얼마일까요? 쉽습니다. 4입니다. 그렇다면 x가 3에 다가갈 때 f(x)의 극한도 4인데, 어느 쪽에서든 x를 3에 점점 더 가까이 미끄러뜨리면 f(x)도 4에 점점 더 가까이 미끄러져 가기 때문입니다. 극한과 실제 값이 마침 일치하는 셈이죠.

이것이 첫 번째 놀라움입니다. 점잖게 행동하는 대부분의 함수에서는, 극한은 그냥 그 점에서의 값입니다. x가 3에 다가갈 때 x 더하기 1의 극한은, 말 그대로 3을 대입해 4를 읽어내는 것으로 계산할 수 있습니다. 드라마도 없고, 특별한 기법도 없습니다. 그렇다면 누가 굳이 극한을 만들어낸 걸까요?

모든 함수가 모든 점에서 점잖게 행동하지는 않기 때문입니다. 어떤 함수에는 구멍이 있습니다. 어떤 함수에는 점프가 있습니다. 어떤 함수는 무한대로 솟구쳐 오릅니다. 그리고 미적분학에서 가장 중요한 함수들은 분모에 0이 들어 있는 분수와 관련이 있는데, 이는 값으로는 수학적으로 금기지만 극한으로는 완벽하게 잘 정의됩니다. 극한이라는 개념은 대입이 통하지 않는 경우들을 위해 존재합니다.

f(x)가 (x 제곱 빼기 1) 나누기 (x 빼기 1)인 함수를 봅시다. x가 1일 때 분모는 0이므로 함수는 정의되지 않습니다. 그런데 x가 0.99일 때는요? x가 0.999일 때는요? x가 1.0001일 때는요? 그것들을 대입해 보면 1.99, 1.999, 2.0001 같은 값들이 나옵니다. 함수는 2를 향해 가고 있습니다. 우리가 관심을 둔 그 점에서는 결코 실제로 2에 닿지 않더라도 말이죠. 극한은 2입니다.

"함수가 향하고 있는 곳"과 "그 점에서 함수가 갖는 값" 사이의 이 틈, 그것이 바로 극한이 존재하는 이유 전부입니다. 극한 덕분에 우리는 그 점 자체가 정의될 필요 없이도, 한 점 근처에서의 동작에 대해 이야기할 수 있습니다.

한쪽 극한: 왼쪽이나 오른쪽에서 다가가기

x를 어떤 목표 값으로 미끄러뜨릴 때, 아래(작은 수)에서 다가갈 수도 있고 위(큰 수)에서 다가갈 수도 있습니다. 대부분의 경우에는 두 접근 방식이 같은 답을 줍니다. 하지만 그렇지 않을 때도 있습니다. 두 답이 다를 때는 수학자들이 이를 따로 구분합니다.

왼쪽 극한은 x가 아래에서 목표를 향해 올라갈 때 함수가 다가가는 값입니다. 오른쪽 극한은 x가 위에서 목표를 향해 내려갈 때 함수가 다가가는 값입니다. 양쪽이 일치하면, 그 점에서 함수는 일반적인 극한을 가지며 값은 양쪽이 말하는 그 값입니다. 양쪽이 다르다면, 그 점에서의 극한은 존재하지 않습니다.

깔끔한 예는 절댓값 함수를 x로 나눈 함수입니다. x가 0일 때 함수는 정의되지 않습니다. 오른쪽에서는 값이 1입니다. 양수는 절댓값을 취해도 양수 그대로 남고, 자기 자신으로 나누면 1이 되기 때문입니다. 왼쪽에서는 값이 마이너스 1입니다. 음수는 절댓값을 거치며 부호가 뒤집히므로, 음수를 절댓값을 통해 양수가 된 자기 자신으로 나누면 마이너스 1이 됩니다. 두 쪽이 서로 다른 답을 줍니다. 0에서는 단일한 극한이 존재하지 않습니다.

이것은 개념의 결함이 아닙니다. 오히려 특징입니다. 한쪽 극한은 각각 함수의 동작에 관한 구체적인 정보를 알려주며, 양쪽이 일치하도록 강요한다면 유용한 정보를 가리게 됩니다. 교과서가 그래프 위에 빈 동그라미를 그리고 함수가 또 다른 빈 동그라미로 점프하는 그림을 보여줄 때, 그곳이 바로 두 한쪽 극한이 서로 다른 자리입니다.

극한이 존재할 때와 그렇지 않을 때

한 점에서 일어날 수 있는 일은 세 가지입니다.

함수가 점잖게 행동한다. 양쪽 한쪽 극한이 일치하고, 그 점에서의 함수 값과도 일치합니다. 대입하면 끝입니다. 무섭게 보이는 문제들을 포함해 미적분학 문제 대부분이 여기에 속합니다.

함수에 구멍이나 점프가 있다. 양쪽 한쪽 극한이 유한한 수로 존재하지만, 그것이 함수의 값과 같을 수도 있고 아닐 수도 있으며, 양쪽이 서로 같을 수도 있고 아닐 수도 있습니다. 양쪽이 일치하면 극한은 존재합니다(그리고 함수 값과 같지 않을 수도 있는데, 그래도 괜찮습니다). 양쪽이 다르면 극한은 존재하지 않습니다.

함수가 무한대로 폭발한다. x가 목표에 다가감에 따라, 함수는 양의 방향이든 음의 방향이든 한없이 커집니다. 수학자들은 때때로 극한이 무한대라고 적기도 하는데, 이는 "극한은 존재하지 않으며, 다만 어느 방향으로 실패하는지를 알려준다"의 줄임말입니다. 무한대는 우리가 도달해 머물 수 있는 수가 아닙니다.

함수가 한 점에서 이 세 가지 동작 중 어느 것을 보이는지 알게 되면, 극한을 분류한 셈입니다. 극한에 관한 미적분학의 한 장 대부분은, 자신이 어떤 경우에 있는지 알아보는 법을 가르쳐 주는 것일 뿐입니다.

우리에게 극한이 필요한 진짜 이유

극한을 호기심거리에서 미적분학의 토대로 바꾸어 놓는 질문은 이것입니다. 어떤 양이 지금 이 순간 얼마나 빠르게 변하고 있는가?

한 시간에 60마일을 달렸다면, 평균 속력은 시속 60마일입니다. 단순한 나눗셈이지요. 그런데 자동차 속도계는 한 시간 동안의 속력이 아니라, 바로 이 순간의 속력을 보여줍니다. 어떻게 그게 가능한 걸까요? 0초 동안에는 어떤 거리도 이동하지 않았고, 0으로 나눌 수도 없으므로, 가장 자명한 계산은 깨져 버립니다.

해결책은 점점 더 작은 시간 창을 보는 것입니다. 지난 1분 동안 일정 거리를 갔으니, 그 1분 동안의 평균 속력은 거리를 1분으로 나눈 값입니다. 지난 1초 동안에는 더 작은 거리를 갔고, 그 1초의 평균 속력은 또 그 나름의 값을 가집니다. 시간 창이 0을 향해 줄어들면 평균 속력은 어떤 특정한 값에 다가가는데, 그 값이 바로 순간 속력입니다. 극한 덕분에 우리는 실제로 0으로 나누지 않으면서도 "한 순간의 변화율"에 대해 이야기할 수 있습니다.

한 점에서 깨지는 양을 가지고 그것이 어디로 향하는지 묻는 이 동일한 트릭이, 미분, 적분, 무한급수, 연속성을 모두 정의하는 방식입니다. 극한이 없다면 미적분학은 존재하지 않습니다. 극한이 있으면, 미적분학은 평범한 산수에 대해 이미 알고 있는 것의 깔끔한 확장이 됩니다.

0 분의 0 문제

극한 단원에서 가장 흔한 수수께끼는, 대입했을 때 0 나누기 0이 나오는 분수입니다. 학생들은 그것을 보고 함수가 망가졌다고 단정합니다. 함수는 망가진 것이 아닙니다. 먼저 약간의 대수를 해 달라고 요청하고 있을 뿐입니다.

x가 2에 다가갈 때, (x 제곱 빼기 4) 나누기 (x 빼기 2)를 생각해 봅시다. 2를 대입하면 분자도 분모도 0이 됩니다. 쓸모가 없죠. 하지만 분자를 인수분해하면, x 제곱 빼기 4는 (x 빼기 2) 곱하기 (x 더하기 2)와 같습니다. 이제 (x 빼기 2)를 약분하면 분수는 x 더하기 2로 정리되고, 2를 대입하면 4가 됩니다. 원래 함수는 x가 2인 곳에서 메울 수 있는 구멍을 가지고 있었고, 극한은 마치 그 구멍이 없었더라면 함수가 가졌을 값으로 그 구멍을 메워 줍니다.

이 약분은 마법 같은 속임수가 아닙니다. 분수 직관 글에서 다룬 대로, 분수는 아직 수행되지 않은 나눗셈일 뿐이며 중학교에서 배운 것과 똑같은 대수적 움직임이 여전히 통한다는 사실을 일깨워 주는 장치입니다. 0 분의 0은 그저 "여기에는 한 가지 이상의 수가 들어맞을 수 있다. 어떤 것인지 알아내려면 대수를 풀어 보라"는 뜻입니다.

이 패턴(부정형을 알아보고, 정리한 다음, 대입하기)은 일반적인 강의에서 다루는 극한 문제의 큰 비중을 처리해 줍니다. 더 까다로운 경우는 삼각함수나 지수함수가 끼어 있을 때이지만, 아이디어는 같습니다. 함수가 목표에서 망가진 것처럼 보이지만, 실제로는 어떤 특정한 곳을 향해 가고 있고, 대수가 그 행선지를 드러내 줍니다.

극한에서 미분으로

극한을 이해하고 나면, 미분은 한 줄짜리 아이디어가 됩니다. 한 점에서의 함수의 미분은 그 점에서의 함수의 기울기이며, "한 점에서의 기울기"는 평범한 산수로는 계산할 수 없는 그런 종류의 양입니다. 기울기는 두 점이 필요한데, 단 한 점만으로는 잴 곳이 없기 때문이죠.

해결책은 순간 속력을 우리에게 안겨준 그 해결책과 같습니다. 관심 있는 점에서 작은 거리 h만큼 떨어진 또 다른 점을 잡고, 두 점을 잇는 직선의 기울기를 구한 다음, h가 0으로 갈 때의 극한을 취합니다. 두 번째 점이 첫 번째 점으로 미끄러져 갈수록, 그 직선의 기울기는 원래 점에서의 곡선의 기울기에 다가갑니다. 그 극한이 바로 미분입니다.

미분의 형식적 정의가 h가 들어간 분수처럼 생긴 이유가 이것입니다. 두 점 사이의 기울기인데, 그중 h가 곧 임의로 작아지려 하기 때문이죠. 우리는 미분을 처음부터 시작하기에 관한 글에서 이를 자세히 풀어냈는데, 거기서 극한 장치는 "곡선이 직선처럼 보일 때까지 줌인"하는 일을 해 줍니다.

극한이 추상적으로 느껴진다면, 바로 이 순간이 극한이 보답을 돌려주는 순간입니다. 앞으로 외우게 될 모든 미분 규칙(거듭제곱 법칙, 연쇄 법칙, 곱의 법칙)은, 특정한 종류의 함수에 적용된 이 단 하나의 극한의 결과입니다. 극한을 알면 규칙을 유도해 낼 수 있습니다. 규칙만 안다면, 규칙에 휘둘리게 됩니다.

무한대에서의 극한과 점근선

첫 번째와 함께 자주 등장하는 두 번째 종류의 극한이 있습니다. x가 어떤 유한한 수에 다가갈 때 무슨 일이 일어나는지 묻는 대신, x가 무한대로 향할 때 무슨 일이 일어나는지 물을 수 있습니다. 함수가 어떤 값에 정착할 수도 있는데, 그 경우에는 수평 점근선을 갖습니다. 계속 자라날 수도 있는데, 그 경우에는 유한한 극한이 없습니다. 또는 정착하지 못한 채 영원히 진동할 수도 있는데, 그 경우에도 극한은 존재하지 않습니다.

f(x)가 1 나누기 x인 함수를 봅시다. x가 점점 더 커질수록, 분수는 점점 더 작아집니다. x가 무한대로 갈 때 1/x의 극한은 0입니다. 함수는 결코 실제로 0에 닿지 않지만, 원하는 만큼 집요하게 그곳을 향해 갑니다. y가 0인 수평선이 그 점근선입니다.

같은 아이디어가 x를 왼쪽으로 미끄러뜨려 "음의 무한대로 다가가기"도 처리합니다. 그리고 같은 아이디어를 뒤집어 놓으면 수직 점근선이 정의됩니다. x가 a에 다가갈 때의 극한이 양 또는 음의 무한대라면, 함수는 x가 a인 곳에서 수직 점근선을 가집니다. 점근선은 별도의 개념이 아닙니다. 그저 다른 옷을 입은 극한일 뿐입니다.

이것이 실생활에서 중요한 이유는, 자연의 많은 양들이 어떤 극한에 결코 닿지 않으면서도 다가가기 때문입니다. 종단 속도는 떨어지는 물체가 공기 저항이 중력과 균형을 이룰 때 다가가는 속도이지만, 유한한 시간 안에 정확히 도달하지는 않습니다. 연속 복리에서의 복리 이자는 복리 기간이 0으로 줄어들 때 원금의 어떤 특정한 배수에 다가갑니다. 인구 모델은 환경 수용 능력에 다가가지만, 엄밀히 말하면 그 값에 닿지는 않습니다. "다가가지만 결코 도달하지 않는다"는 말의 수학 언어가 바로 극한입니다.

극한이 자주 잘못 가르쳐지는 이유

극한이 이만큼 유용하다면, 왜 그것이 그토록 자주 벽처럼 느껴지는 걸까요? 솔직한 이유 세 가지가 있습니다.

첫째, 형식적 엡실론-델타 정의가 직관이 자리 잡기도 전에 도입되곤 합니다. 엡실론-델타는 "당신이 원하는 만큼 가까이 있어 달라고 요구하더라도, 입력 쪽에서 충분히 가까이 가면 그만큼 가까이 머물 수 있다"는 말을 정밀하게 표현한 것입니다. 아이디어는 단순합니다. 표기법이 잔혹할 뿐이죠. 대부분의 학생은 표기법을 익히고, 증명 한두 개에서 통과 점수를 받은 뒤, 다시는 그것을 사용하지 않습니다.

둘째, 예제 문제들은 부정형(0 분의 0인 경우들) 쪽으로 치우쳐 있습니다. 그것들이 극한을 필요로 할 만큼 흥미로운 유일한 경우이기 때문이죠. 이 때문에 주제 전체가 함정 문제의 행렬처럼 느껴지게 됩니다. 사실 대부분의 진짜 극한은 대입만 해도 자명하고, 까다로운 경우들은 알아보고 다루는 법을 익히게 되는 작은 부분집합일 뿐입니다.

셋째, 미적분학의 나머지 부분과의 연결이 자주 미뤄집니다. 학생들은 미분과 적분 단원 곳곳에서 "lim"을 보지만, 그 모든 설정이 그저 두 주 동안 공부한 그 극한을 특정한 방식으로 적용한 것일 뿐이라는 말은 항상 듣지 못합니다. 그 연결이 보이는 순간, 미적분학 교과서는 이어지지 않는 다섯 개의 주제가 아니라 하나의 연속된 이야기로 느껴지기 시작합니다.

번아웃 없이 극한 연습하기

한 번 읽는 것만으로는 이 주제가 자동화되지 않습니다. 다행히 극한은 분수와 로그가 그렇듯, 짧고 다양한 연습 세션에 잘 반응합니다.

언제나 먼저 대입해 보세요. 대부분의 극한은 점잖게 행동합니다. 직접 대입을 시도하는 데는 2초가 걸리고, 무언가 멋진 일을 해야 하는지를 그것이 알려줍니다. 수가 하나 나오면, 끝입니다.

부정형을 알아보세요. 0 나누기 0, 무한대 나누기 무한대, 무한대 빼기 무한대, 0 곱하기 무한대 등은 "당황하지 말고 약간의 대수를 풀라"는 신호입니다. 각 부정형마다 표준적인 움직임 모음(인수분해, 전개, 켤레 곱하기, 분자와 분모를 가장 큰 차수로 나누기 등)이 있습니다. 이 움직임을 익히는 것은 짧은 목록을 외우는 일입니다.

막히면 함수를 스케치하세요. 대수가 어디로도 가지 않을 때는, 그래프를 그려 보세요. 극한은 시각적인 아이디어이며, 목표 값 근처의 함수를 빠르게 스케치하면 순수한 조작으로는 보이지 않던 답이 분명해질 때가 많습니다.

문제 유형을 섞으세요. 0 분의 0 문제 스무 개를 연달아 반복 훈련하지 마세요. 대입 문제, 무한대 극한, 한쪽 극한을 섞어 푸세요. 간격 반복 글에서 다룬 대로, 두뇌는 어떤 문제인지 매번 골라야 할 때에만 분류를 학습하며, 그것은 오직 혼합 연습 중에만 일어납니다.

Math Zen은 어떻게 들어맞는가

Math Zen의 극한 버킷 진행 시스템은 쉬운 대입 사례부터 시작하므로, 가장 단순한 것부터 시도하는 습관이 자연스럽게 길러집니다. 중간 버킷은 한쪽 극한과 표준적인 부정형을 다루며, 어떤 경우에 있는지를 식별한 뒤에야 기법으로 손을 뻗도록 강제하는 혼합 문제 세트로 구성되어 있습니다. 후반 버킷은 무한대에서의 극한과 미분으로의 연결에 집중하는데, 그 단계에서 이 주제는 더 이상 극한 그 자체에 관한 것이 아니라, 그 뒤에 오는 모든 것을 움직이는 엔진이 됩니다.

연습 세션이 짧고 문제가 자연스럽게 섞여 있기 때문에, 단일 주제 교과서식 반복 훈련에서 오는 번아웃 없이 패턴 인식을 쌓을 수 있습니다. 극한에서 "막혔다"고 느끼는 학생 대부분은 사실 개념에서 막힌 것이 아닙니다. 부정형의 대수에서 막힌 것이며, 몇 주의 혼합 연습이면 보통 해결됩니다.

핵심 정리

극한은 "이 함수는 어디로 향하고 있는가?"에 대한 답입니다. 점잖게 행동하는 함수에서는, 그 답이 그저 그 점에서의 값입니다. 구멍이나 점프, 점근선이 있는 함수에서는, 극한이 값만으로는 잡아낼 수 없는 한 점 근처의 동작을 포착해 줍니다. 극한이 존재하는 이유는, 평범한 산수가 닿지 못하는 것들, 즉 한 순간에서의 변화율, 기울기, 연속적인 동작에 대해 우리가 이야기할 수 있도록 하기 위함입니다.

극한 문제가 도무지 풀리지 않는 것처럼 느껴진다면, 형식적 정의부터 꺼내 들지 마세요. 평이한 한국어로 된 질문을 던져 보세요. x가 목표를 향해 미끄러져 갈 때, 이 함수는 어디로 가고 있는가? 대입을 시도해 보세요. 그것이 실패하면, 성공할 수 있을 만큼만 대수를 풀어 보세요. 개념이 들리는 그대로 정확히 단순하다는 사실을 믿게 되는 순간, 그 단원의 대부분은 스르르 풀려 버립니다.