§15-3  極限的四則運算

兩條收斂數列的和、內積、純量倍與商,極限能不能直接由各自的極限組合出來?估計「兩個因子同時在變」的差,要用什麼手法拆開?而商為什麼還需要一個額外的條件?

組合起來的極限算得出來嗎

§14-1 的 14.2 給了數列的逐項四則,同篇例 2 卻留下一個警告:X = (2n) 衝向無窮、Y = (1/n) 掉向零,內積 X · Y 卻恆等於 2——兩條數列各自的走向,決定不了組合後的走向。

但那個例子裡的 X 本來就不收斂。如果兩條都收斂呢?這時答案好得出乎意料:組合後的極限就是極限的組合,該加的加、該乘的乘。這一條定理是往後所有極限計算的主力——有了它,§14-4 那種一例一巧思的日子就結束了。

證明的共通手法只有一個,值得先看清楚:加減同一項。要估 ‖AB − ab‖ 這種「兩個東西都在動」的差,先硬插一個中間項 Ab,把它拆成 ‖A(B − b)‖ + ‖(A − a)b‖。這樣拆的好處不是「只剩一個東西在動」——A 在第一段裡仍然隨 n 變動——而是每一段都只含一個趨於零的誤差因子(B − b 或 A − a),另一個因子退居係數。誤差因子由收斂假設直接管住;係數雖然還在動,只要替它找到一個上界就壓得下去。這也正是為什麼下面的證明非用「收斂必有界」不可。

15.6  THEOREM
(a) Let X and Y be sequences in ℝᵖ converging to x and y. Then X + Y, X − Y and X · Y converge to x + y, x − y and x · y.
(b) Let X = (xₙ) in ℝᵖ converge to x and let A = (aₙ) in ℝ converge to a. Then (aₙxₙ) converges to ax.
(c) Let X = (xₙ) in ℝᵖ converge to x, and let B = (bₙ) be a sequence of non-zero reals converging to a non-zero b. Then (bₙ⁻¹xₙ) converges to b⁻¹x.
(a) 兩條收斂的 ℝᵖ 數列,其和、差、內積分別收斂到極限的和、差、內積。(b) 一條收斂的實數列乘一條收斂的 ℝᵖ 數列,收斂到兩個極限的乘積。(c) 若分母數列每項非零且極限也非零,則商收斂到極限的商。
正例:(1/n) → 0 與 ((n+1)/n) → 1,由 (a) 得兩者之和 (1/n + (n+1)/n) → 0 + 1 = 1。反例:(c) 的「極限也非零」少不得——xₙ = 1、bₙ = 1/n 時每項 bₙ 都非零,但 b = 0,而 (xₙ/bₙ) = (n) 根本不收斂。分母的極限一旦是零,定理什麼都不保證。
PROOF · (a) 和、差與內積

設 xₙ → x、yₙ → y,並設 ε > 0。三角不等式取自 §8-2 的 8.7,絕對值版的 Schwarz 不等式取自 8.8——內積可能是負的,要蓋住兩側就得用絕對值那一版。

證明計畫 · 由所求想起
⇢ 和:誤差拆成兩段,各自要求做到 ε/2,加起來剛好 ε。
⇢ 內積:兩個因子都在動,先加減同一項把它拆成「只有一個在動」的兩段。
⇢ 拆完之後每段都帶著一個沒在動的因子當係數,得先替它們找一個共同的上界 M——這一步靠 14.6。
Proof.  (a) For the sum, the Triangle Inequality gives ‖(xₙ + yₙ) − (x + y)‖ = ‖(xₙ − x) + (yₙ − y)‖ ≤ ‖xₙ − x‖ + ‖yₙ − y‖. Choose K₁ with ‖xₙ − x‖ < ε/2 for n ≥ K₁ and K₂ with ‖yₙ − y‖ < ε/2 for n ≥ K₂; for n beyond both, the sum of the two estimates is below ε. The difference is handled by the identical argument.
和的證明是全節最短的一個,卻定下了往後每一段的節奏。所求是把總誤差壓到 ε 以下,而誤差自然分成兩段——關鍵動作是把 ε 的額度預先分帳,兩段各領 ε/2。分帳合法的理由是 ε/2 仍是正數,拿它去問 14.4(每個正的標準都換得到一個起算點)完全合規。兩條數列各自交出的起算點未必相同,取兩者中較大的,之後兩份估計才同時有效——與 §14-3 的 14.7 統一起算點是同一個動作。具體:ε = 0.1 時兩邊各做到 0.05。
For the inner product, insert and remove the term xₙ · y: |xₙ · yₙ − x · y| = |xₙ · (yₙ − y) + (xₙ − x) · y| ≤ |xₙ · (yₙ − y)| + |(xₙ − x) · y|, and the Schwarz Inequality bounds this by ‖xₙ‖ ‖yₙ − y‖ + ‖xₙ − x‖ ‖y‖.
內積這一步是本節的核心手法。直接估 |xₙ · yₙ − x · y| 無從下手,因為兩個因子同時在變;插進中間項 xₙ · y(加一次再減一次,總值不變)之後,第一段的誤差因子是 yₙ − y、第二段的誤差因子是 xₙ − x,各只有一個——而這兩個量恰恰是假設管得住的。至於陪在旁邊的 ‖xₙ‖ 與 ‖y‖,它們是係數:‖y‖ 固定不動,‖xₙ‖ 仍在動,稍後要另外替它找上界。拆完之後每段都是一個內積,用 8.7 附贈的 Schwarz 不等式(|u · v| ≤ ‖u‖‖v‖)換成兩個長度相乘,就得到上面的形式。具體對照:p = 1 時這就是熟悉的 |xₙyₙ − xy| = |xₙ(yₙ − y) + (xₙ − x)y|。
By Lemma 14.6 the convergent sequence (xₙ) is bounded, so there is M > 0 exceeding every ‖xₙ‖ and also ‖y‖. Choose K₁ with ‖yₙ − y‖ < ε/2M and K₂ with ‖xₙ − x‖ < ε/2M; then for n beyond both, |xₙ · yₙ − x · y| < M · (ε/2M) + (ε/2M) · M = ε.
最後一步處理拆出來的那兩個係數。‖xₙ‖ 隨 n 變動,不能當常數用——這就是 §14-3 的 14.6(收斂的數列必定有界)派上用場的地方:它保證所有 ‖xₙ‖ 有一個統一的上界,再把固定的 ‖y‖ 一併納入,取一個大於全部的 M > 0。係數的上界是 M,所以兩段的標準要預先除以 2M——除以 2 是分帳、除以 M 是抵掉係數。這正是 §14-4 的 14.9 那個「標準預先除以常數」的動作,只是這裡做兩次。
和、差、內積三項都算得出來。∎
插入中間項:每段只剩一個東西在動 xₙ · yₙ − x · y 沒有現成的誤差因子可用 加減 xₙ · y xₙ · (yₙ − y) (xₙ − x) · y 誤差因子 yₙ − y 誤差因子 xₙ − x 陪在旁邊的係數各需一個上界 M

這張圖在說內積證明的關鍵動作:原本的差有兩個因子同時在變,估不動;加一次再減一次 xₙ · y 之後拆成兩段,每段都只剩一個因子在變,而那正是收斂假設管得住的量。代價是每段多了一個係數,得替它們找上界。

PROOF · (b) 純量倍

設 xₙ → x(在 ℝᵖ)、aₙ → a(在 ℝ),並設 ε > 0。

Proof.  Insert the term aₙx: ‖aₙxₙ − ax‖ = ‖aₙ(xₙ − x) + (aₙ − a)x‖ ≤ |aₙ| ‖xₙ − x‖ + |aₙ − a| ‖x‖, the last step using the homogeneity of the norm. By Lemma 14.6 the convergent sequence (aₙ) is bounded, so pick M > 0 exceeding every |aₙ| and also ‖x‖. Choosing K₁, K₂ so that ‖xₙ − x‖ < ε/2M and |aₙ − a| < ε/2M beyond them, we get ‖aₙxₙ − ax‖ < M · (ε/2M) + (ε/2M) · M = ε for n past both.
(b) 與內積那一段是同一份證明換一套記號,值得逐項對照著讀:插的中間項改成 aₙx,拆出來的兩段是「純量沒動、向量在動」與「向量沒動、純量在動」。把兩段各自化成長度相乘時,用的不是 Schwarz 而是 §8-2 的 8.5 裡 norm 的一次齊次性(‖a x‖ = |a| ‖x‖)——純量倍的長度就是倍率的絕對值乘上原長度。要有界的這次換成 (aₙ),因為它才是那個「當係數又在動」的東西;‖x‖ 是固定的常數,順手一起納入 M。往後兩段的分帳與抵係數,與 (a) 逐字相同。
純量倍也算得出來。∎
PROOF · (c) 除以收斂到非零的數列

設 xₙ → x、bₙ → b,每個 bₙ ≠ 0 且 b ≠ 0。

證明計畫 · 由所求想起
⇢ 老樣子先加減同一項,把誤差拆成「分母在動」與「分子在動」兩段。
⇢ 新問題:分母那段的係數含 1/|bₙ|,若 bₙ 靠近零它會爆掉——必須先證明 bₙ 從某項起與零保持一段安全距離。
⇢ 安全距離由 b ≠ 0 提供:bₙ 既然收斂到一個非零的數,就不可能一直往零貼。
⇢ 有了下界,係數才有上界,剩下的就是照舊分帳。
Proof.  Insert the term (1/b)xₙ: ‖(1/bₙ)xₙ − (1/b)x‖ ≤ |1/bₙ − 1/b| ‖xₙ‖ + (1/|b|) ‖xₙ − x‖, and since 1/bₙ − 1/b = (b − bₙ)/(bₙ b), the first summand equals (|b − bₙ| / (|bₙ| |b|)) ‖xₙ‖.
拆解與前兩段同型,只是中間項改成 (1/b)xₙ:第一段是「分母從 bₙ 換成 b」造成的誤差,第二段是「分子從 xₙ 換成 x」造成的誤差。把兩個倒數的差通分,1/bₙ − 1/b = (b − bₙ)/(bₙ b)——分子正是我們管得住的 |bₙ − b|,但分母冒出一個 |bₙ|,而 bₙ 可以要多小有多小,這個係數隨時可能失控。整段證明剩下的力氣全花在制伏它。
Choose M > 0 with 1/M < |b| and ‖x‖ < M — for instance one more than the larger of 1/|b| and ‖x‖. Because bₙ → b and |b| − 1/M > 0, some index onwards gives |bₙ − b| < |b| − 1/M, whence |bₙ| ≥ |b| − |bₙ − b| > 1/M. Because xₙ → x and M − ‖x‖ > 0, some index onwards likewise gives ‖xₙ‖ ≤ ‖x‖ + ‖xₙ − x‖ < M. Let K₀ be past both.
這一步是 (c) 唯一比 (a)、(b) 多做的事。所求:一個不隨 n 變動的正下界,把 |bₙ| 從零推開;本錢只有一個——b 自己不是零。先挑一個 M 同時滿足 1/M < |b| 與 ‖x‖ < M(取 1/|b| 與 ‖x‖ 中較大者再加 1 即可,這裡用到 b ≠ 0 才寫得出 1/|b|)。因為 |b| − 1/M 是正數,拿它當標準去問 bₙ → b,換回一個起算點;此後由三角不等式的反向估計(§5-4 的 5.12)得 |bₙ| ≥ |b| − |bₙ − b| > 1/M。同一招用在 xₙ 上得到 ‖xₙ‖ < M。具體:b = 2 時取 M = 3,則從某項起 |bₙ| > 1/3——這條線一劃下去,1/|bₙ| 就再也超不過 3。
For n ≥ K₀ the three bounds 1/|bₙ| < M, 1/|b| < M and ‖xₙ‖ < M turn the estimate into ‖(1/bₙ)xₙ − (1/b)x‖ ≤ M³ |bₙ − b| + M ‖xₙ − x‖. Given ε > 0, take K₁ with |bₙ − b| < ε/2M³ and K₂ with ‖xₙ − x‖ < ε/2M. For n past K₀, K₁, K₂ we obtain ‖(1/bₙ)xₙ − (1/b)x‖ < M³ (ε/2M³) + M (ε/2M) = ε.
收尾與 (a) 同構,只是係數換成 M³ 與 M。第一段的係數之所以是三次方,是因為它同時吃下三個 M:1/|bₙ| 一個、1/|b| 一個、‖xₙ‖ 一個。既然係數是 M³,分帳時那一段的標準就得預先除以 2M³;另一段除以 2M。最後取三個起算點中最大的——K₀ 也得算進去,因為前面那三個上界只在 n ≥ K₀ 之後才成立。
分母的極限非零時,商也算得出來。∎
0 b 1/M K₀ 此後 |bₙ| > 1/M,1/|bₙ| < M 前面不管

這張圖在證 (c) 的關鍵一步:bₙ 收斂到非零的 b,所以從某個 K₀ 起它再也回不到淺色的危險區——恆有 |bₙ| > 1/M。有了這條線,1/|bₙ| 才有上界 M,估計才寫得下去。若 b = 0,這條線根本畫不出來,整個證明從這裡垮掉。

—— 第三階段到此結束 ——

極限的四則到手(15.6):和、差、內積、純量倍、商,全部可以先各自取極限再組合,唯一的附加條件是商的分母極限不為零。三份證明共用同一套動作——加減同一項把「兩邊都在動」拆成「一邊在動」,用 14.6 替浮動的係數找上界,再把 ε 預先分帳並除掉係數。(c) 多一個步驟:先證 bₙ 與零保持安全距離,那條線的存在完全靠 b ≠ 0。下一篇 §15-4 把這條定理拿去用,並補上最後一塊——不等式怎麼過極限。這一篇的估計很密,起來走一走再繼續。