§21-3  自動連續

前一節每個函數的連續性都是一點一點驗出來的。線性函數有沒有辦法一次驗完?如果有,那個放大倍率該用什麼寫出來,而它會不會隨著點的位置改變?

線性函數自動連續

快遞公司報價有兩種做法。一種是每一件包裹都拿到櫃檯現場秤重、現場算;另一種是先公告一個上限——不管寄什麼,每公斤最多收多少錢。第二種一次講完,之後不必再問。

前一節每個函數的連續性都是第一種做法:平方函數得先把倍率界在 a 附近,倒數函數還得把分母從零推開,而且每一點能用的 δ 都不一樣。線性函數走的是第二種——上一篇那張表直接算得出一個全空間通用的上限。

算出上限只需要一個工具:§8-2 的 8.8(絕對值版 Schwarz 不等式,|x · y| ≤ ‖x‖‖y‖)。表的每一橫列本身就是 ℝᵖ 裡的一個點,而輸出的每個座標恰好是它與輸入的內積。

LEMMA
Let f: ℝᵖ → ℝ^q be linear with matrix (cᵢⱼ), and put
  A = (ΣᵢΣⱼ cᵢⱼ²)^{1/2}.
Then ‖f(x)‖ ≤ A‖x‖ for every x ∈ ℝᵖ.
把表上所有的數平方加起來再開根號,得到的 A 就是一個通用的放大倍率:它與 x 無關。這正是 §20-3 那條局部線性估計引理裡的 M,而且這裡的有效範圍是整個空間,不必再加限制。
正例:§21-2 例 3 的映射 f(x, y) = (2x + y, x, −y) 的表上六個數平方和是 4 + 1 + 1 + 0 + 0 + 1 = 7,所以 A = √7 ≈ 2.646。取 x = (1, 3):‖x‖ = √10 ≈ 3.162、f(x) = (5, 1, −3)、‖f(x)‖ = √35 ≈ 5.916,而 A‖x‖ = √70 ≈ 8.367,估計成立。反例:A 通常不是最小的倍率——上面這一組差了不少,而第四篇會算出真正最小的那個是 √6 ≈ 2.449。
PROOF

記 f 的矩陣為 (cᵢⱼ),並固定一個 x ∈ ℝᵖ。要壓住的是整條 ‖f(x)‖,可是手上能算的只有它的各個座標。

證明計畫 · 由所求想起
所求是用 ‖x‖ 把 ‖f(x)‖ 壓住。先逐列做:輸出的每個座標都是「表的那一橫列」與「輸入」的內積,Schwarz 不等式一步就把它壓住。再把 q 個估計平方相加,左邊剛好併成 ‖f(x)‖²,右邊剛好併成整張表的平方和乘 ‖x‖²。

Proof.  For each i let rᵢ = (cᵢ₁, ⋯, c_{ip}) ∈ ℝᵖ be the i-th row of the matrix. By 21.2 the i-th coordinate of f(x) is yᵢ = rᵢ · x. Hence 8.8 gives |yᵢ| ≤ ‖rᵢ‖ ‖x‖, and squaring,
  yᵢ² ≤ (Σⱼ cᵢⱼ²) ‖x‖².
這一步的所求:把單一個輸出座標壓住。關鍵的辨認是 yᵢ = cᵢ₁x₁ + ⋯ + c_{ip}x_p 這個式子本來就是內積的樣子——把係數那一橫列當成 ℝᵖ 裡的一個點 rᵢ,它就是 rᵢ · x,於是 8.8 直接適用。平方是為了等一下能相加:不等式兩邊都非負,平方保持方向。拿例 3 的第一橫列驗:r₁ = (2, 1)、‖r₁‖ = √5 ≈ 2.236,而 x = (1, 3) 時 y₁ = 5,估計給的上限是 √5 · √10 ≈ 7.071,確實比 5 大。
Summing these q inequalities and using ‖f(x)‖² = Σᵢ yᵢ²,
  ‖f(x)‖² ≤ (ΣᵢΣⱼ cᵢⱼ²) ‖x‖² = A²‖x‖².
Both sides are non-negative, so taking square roots gives ‖f(x)‖ ≤ A‖x‖.
這一步把 q 個估計併成一個。左邊併得起來,是因為 ℝ^q 的 norm 依 8.7 就是各座標平方和開根號;右邊併得起來,是因為每一項的 ‖x‖² 都相同,可以提出來,剩下的就是把整張表的平方和收攏成 A²。最後開根號要說一句兩邊非負——不然平方的不等式翻不回來。
一張表交出一個數,這個數對空間裡的每一點都通用。∎
c₁₁c₁₂ cᵢ₁cᵢ₂ c_q1c_q2 第 i 橫列 · x yᵢ |yᵢ| ≤ ‖rᵢ‖‖x‖ 再把各列平方相加

這張圖在說證明的第一步在辨認什麼:表的一整條橫列本身就是 ℝᵖ 裡的一個點,而輸出的第 i 個座標恰好是它與輸入的內積。認出內積,Schwarz 不等式就直接套得上。逐列估完之後平方相加,各列的 ‖x‖² 是共同因子,提出來就得到整張表的平方和。

上面的估計是對「一個點」講的。連續談的是「兩個點的距離」,而線性恰好把兩者接了起來。

21.3  THEOREM
If f is a linear function with domain ℝᵖ and range in ℝ^q, then there is a constant A ≥ 0 such that
  ‖f(u) − f(v)‖ ≤ A‖u − v‖
for all u, v ∈ ℝᵖ. Consequently f is continuous at every point of ℝᵖ.
線性函數不必逐點驗連續,一句話就全部到位。而且 A > 0 時 δ(ε) = ε/A 對每一點都通用——不像平方函數或倒數函數那樣要跟著位置調整。
正例:投影 P(x, y) = (x, 0) 的表上四個數平方和是 1,所以 A = 1、δ(ε) = ε——投影確實不放大距離。反例:定理只管線性函數,不能倒過來用——連續不蘊涵線性,f(x) = x² 處處連續卻不線性,而且它根本找不到一個全空間通用的倍率。
PROOF

手上的估計吃的是一個點,而要估的是兩個點的像之差。橋樑是線性本身。

證明計畫 · 由所求想起
所求是 §20-3 那條局部線性估計引理要的形狀:在 a 附近一個範圍內,輸出的誤差不超過輸入誤差的定倍。把兩點的差整個當成一個新的輸入——線性讓 f(u) − f(v) 等於 f(u − v),引理的估計就直接適用。倍率取 A,有效範圍是整個空間。A = 0 的情形另外一句話處理。

Proof.  Let A be as in the Lemma and let u, v ∈ ℝᵖ. Applying linearity with a = 1 and b = −1 gives f(u − v) = f(u) − f(v). Hence, putting x = u − v in the Lemma,
  ‖f(u) − f(v)‖ = ‖f(x)‖ ≤ A‖x‖ = A‖u − v‖.
這一步的所求:把「兩點之差的像」換成「一個點的像」。做這件事的是線性本身,取 a = 1、b = −1 就得到 f(u − v) = f(u) − f(v)——非線性函數沒有這個特權,這正是前一節每個例子都得從頭估的原因。代組數字:f(x, y) = (2x + y, x − 3y)、u = (1, 1)、v = (1.02, 0.99) 時 ‖u − v‖ ≈ 0.0224,而 f(u) − f(v) = (−0.03, −0.05)、長度約 0.0583,上限 A‖u − v‖ ≈ 0.0866,過關。
If A > 0, then at every point a ∈ ℝᵖ the hypothesis of the local linear estimate is met with M = A and with r as large as we please, so f is continuous at a and δ(ε) = ε/A may be used. If A = 0, then every cᵢⱼ vanishes, so f is the zero function, which is continuous everywhere. In either case f is continuous on ℝᵖ.
這一步把估計翻成連續。引理要求 M > 0,所以 A = 0 得單獨處理:A 是一堆平方的和開根號,它等於零只可能是每一項都等於零,於是整張表全是零、f 把每個點都送到零向量,而常數函數的連續在前一節第一篇就驗過。A > 0 時有效範圍 r 可以取任意大,inf {r, ε/A} 裡只剩第二項。
一個估計覆蓋整個空間,連續性一次驗完,而且 δ 不隨位置改變。∎
f 半徑都是 δ 半徑都是 ε 換位置不必換半徑

這張圖在說「通用」是什麼意思:左邊三個圓的半徑都是同一個 δ,不管圓心在哪裡;右邊三個圓的半徑也都是同一個 ε,而每一個像都裝得進去。對照前一節的倒數函數——那裡圓心越靠近定義域的缺口,可用的半徑就越小,圖上的圓會一路縮小。線性函數沒有缺口,也沒有陡度的變化。

例 5兩行算完一個 δ
前一節花了五個步驟估出來的 δ,現在要幾行?
  1. 取 f(x, y) = (2x + y,  x − 3y)。它線性(§21-1 例 1 已驗),矩陣的四個數是 2, 1, 1, −3。
  2. 平方和是 4 + 1 + 1 + 9 = 15,所以 A = √15 ≈ 3.873,而 δ(ε) = ε/√15。ε = 0.1 時 δ ≈ 0.0258。兩行結束。
  3. 對照 §20-5 例 7:那裡先逐座標估出 3 倍與 4 倍,再用分量換算併回 norm 得到 4√2 ≈ 5.657,之後改用 Schwarz 才壓到 √15。本篇的引理把那條精細路線一次做成通則——所謂「用 Schwarz 逐列估計」就是引理的證明。
  4. 實際驗一組:u = (1, 1)、v = (1.02, 0.99)。‖u − v‖ ≈ 0.0224,f(u) = (3, −2)、f(v) = (3.03, −1.95),差是 (−0.03, −0.05)、長度約 0.0583。上限 A‖u − v‖ ≈ 0.0866,估計成立而且還有餘。
同一個答案,路徑短得多——因為 21.2 保證了「逐座標都是一次組合」這件事對所有線性函數成立,逐列 Schwarz 於是可以一次做完。第 4 步那個「還有餘」不是巧合:A 幾乎從來不是最小的倍率,下一篇處理這件事。
—— 第三階段到此結束 ——

本篇讓上一篇那張表交出一個數 A(所有元素的平方和開根號),並證明它是全空間通用的放大倍率——逐列用一次 Schwarz,再把各列平方相加。線性把兩點之差搬成一個新的輸入,於是 21.3 一句話就讓連續性全部到位,δ(ε) = ε/A 對每一點通用。下一篇追問一個自然的問題:A 合用,可是它是最小的嗎?喝口水再回來。