§23-3  Lipschitz 條件

有沒有一個比均勻連續更強、卻更容易檢查的條件?如果把輸出的變化壓在輸入變化的定倍之內,會得到什麼?而倍率小於一時,反覆作用會發生什麼事?

一個更好檢查的條件

路上標示時速上限六十,意思不是「某一段路開得慢」,而是不管哪一段、不管開多久,經過的距離都不超過時間乘以六十。一個上限,管住全程。

函數也有這種寫法:輸出的變化不超過輸入變化的固定倍數。§21-3 的 21.3 對線性函數證過的正是這件事,而它當時直接給出了 δ(ε) = ε/A——一個與位置無關的半徑。這個條件比均勻連續強,可是檢查起來容易得多:不必挑 δ,只要找一個倍率。

23.4  DEFINITION
Let f have domain D(f) ⊆ ℝᵖ and values in ℝ^q. We say f satisfies a Lipschitz condition in case there is a constant A > 0 with
  ‖f(x) − f(u)‖ ≤ A‖x − u‖
for all x, u ∈ D(f). When such an inequality holds with a constant A < 1, the function is called a contraction.
一個倍率管住全部的點對。倍率小於 1 時特別重要——那表示函數把任何兩點之間的距離都拉短,這個性質在下一篇會換來一個很實用的定理。要留意這裡不要求 p = q——不等式兩邊都是實數,維度不同照樣比得起來。真正需要定義域與值域同一個空間的是下一篇的不動點:那裡要反覆把輸出再餵回輸入,值域得落回定義域才行。
正例:f(x) = (x + 3)/4 於 ℝ——|f(x) − f(u)| = |x − u|/4,倍率 ¼ < 1,是 contraction。反例:g(x) = 2x 於 ℝ 滿足 Lipschitz 條件(倍率 2),可是不是 contraction——它把距離拉長成兩倍。
LEMMA
If f satisfies a Lipschitz condition with constant A, then f is uniformly continuous on D(f). The converse is false.
Lipschitz 蘊涵均勻連續,而且 δ 直接寫得出來:δ(ε) = ε/A。反向不成立——均勻連續只要求「靠得夠近時像也靠得夠近」,並不要求兩者成正比,所以有些函數陡得沒有定倍上限卻仍然均勻連續。
正例:任何線性函數 f : ℝᵖ → ℝ^q 都滿足 Lipschitz 條件,倍率取 ‖f‖(§21-4),所以全空間均勻連續。反例:√x 於 [0, 1] 均勻連續(§23-2 例 4 給了 δ(ε) = ε²)卻不滿足任何 Lipschitz 條件,例 5 逐步驗。
PROOF

正向只是把不等式反解一次;反向要交出一個具體的反例,那件事留給例 5。

Proof.  Let ε > 0 and put δ(ε) = ε/A. If x, u ∈ D(f) and ‖x − u‖ < δ(ε), then
  ‖f(x) − f(u)‖ ≤ A‖x − u‖ < A · (ε/A) = ε.
Since δ(ε) does not involve any point of the domain, f is uniformly continuous.
這一步的所求:交出一個與位置無關的 δ。之所以交得出來,是因為 Lipschitz 條件裡的 A 從一開始就是一個常數,對所有點對通用——均勻連續要的正是這種通用性,於是不必再做任何整理。要留意 A > 0 是定義的一部分,除法才有意義;若某個函數對 A = 0 成立,它是常數函數,取任何正的 δ 都行。
Lipschitz 是均勻連續的一個現成證書,而且附帶一個算得出來的 δ。∎
夾得住:Lipschitz 起步太陡:夾不住

這張圖在說 Lipschitz 條件的幾何意思:以任一點為頂點畫兩條斜率為 ±A 的直線,整條曲線都必須留在這個角度之內。左邊的曲線做得到;右邊那條在原點附近幾乎是鉛直的,不管把 A 取多大都會被它衝破。要留意右邊那條仍然連續、甚至均勻連續——Lipschitz 是更嚴格的一個要求。

例 5開根號:均勻連續卻沒有定倍上限
引理說反向不成立。反例得證明「任何 A 都不行」,這種全稱否定該怎麼下手?
  1. 取 f(x) = √x 於 D(f) = [0, 1]。它均勻連續:§23-2 例 4 給了 |√x − √u| ≤ √|x − u|,所以 δ(ε) = ε²。也可以直接引 23.3——定義域 closed 且 bounded。
  2. 假設有一個 A > 0 使 Lipschitz 條件成立。把 u 固定成 0(這是全稱否定的下手處:條件對所有點對成立,我們只挑最吃緊的一組)。條件變成
      √x ≤ Ax  對所有 x ∈ (0, 1] 成立。
  3. 兩邊除以 x > 0 得 1/√x ≤ A。可是 x 可以任意小,而 1/√x 因此可以任意大。不妨設 A ≥ 1(條件對更大的 A 只會更容易成立,所以否決大的 A 就否決了全部),這時 x = 1/(4A²) ≤ ¼ 確實落在定義域內,而它給出 1/√x = 2A > A,矛盾。
  4. 代個數字看清楚:A = 100 時取 x = 0.000025,則 √x = 0.005 而 Ax = 0.0025——√x 是它的兩倍。倍率再大都追不上。
第 2 步的手法值得記住:要否定一個「對所有點對成立」的條件,只要挑一組點對讓它破功,而挑選的時候可以先固定其中一個點,把兩個變數的問題壓成一個。這裡的病灶在原點——曲線在那裡陡到沒有定倍上限,可是陡並不妨礙連續,甚至不妨礙均勻連續。
x = 1/A² y = √x y = Ax 原點附近曲線一定在直線上方

這張圖在說例 5 的矛盾長什麼樣:Lipschitz 條件(把 u 固定成 0 之後)要求 √x ≤ Ax,也就是曲線整條走在直線下方。可是不管把 A 取多大、直線畫得多陡,兩者總會在 x = 1/A² 交會,而交點左邊的那一段曲線一律在直線上方。倍率越大,交點越靠近原點,破功的區域縮小卻從不消失。

LEMMA
Let g satisfy a Lipschitz condition with constant B and let f satisfy one with constant A, the range of g lying in the domain of f. Then f ∘ g satisfies a Lipschitz condition with constant AB. In particular, if f is a contraction with constant C whose range lies in its own domain, then the n-fold composite of f with itself is a contraction with constant Cⁿ.
兩道工序接起來,倍率相乘——與 §21-4 對線性函數合成的估計是同一個形狀。後半句是它真正的用場:一個 contraction 反覆作用 n 次,倍率變成 Cⁿ,而 C < 1 讓它趨向零。下一篇的整條論證就靠這個。
正例:f(x) = (x + 3)/4 的倍率是 ¼,作用三次的倍率是 1/64——原本相距 1 的兩點,三輪之後相距不到 0.016。反例:倍率相乘只給上界,不保證等號——取 g(x, y) = (0, y) 與 f(x, y) = (x, 0),兩者最好的倍率都是 1,可是合成恆送出零向量,最好的倍率是 0(同 §21-4 例 7)。
PROOF

合成的定義域由接口裁定(§2-2 的 2.3),這裡假設 g 的值都落在 f 的定義域裡,所以 f ∘ g 在 D(g) 上處處有定義。

Proof.  For x, u ∈ D(g), applying the two conditions in turn gives
  ‖f(g(x)) − f(g(u))‖ ≤ A‖g(x) − g(u)‖ ≤ AB‖x − u‖.
Taking g = f and iterating n − 1 times gives the constant Cⁿ for the n-fold composite.
這一步是例行核對,可是順序不能顛倒:先對外層用一次條件,把問題換成 g 的兩個像之間的距離,再對內層用一次。外層那一次之所以用得上,是因為 g(x) 與 g(u) 都落在 f 的定義域裡——這正是前提裡「值域包在定義域內」的用途。反覆迭代時每一輪各乘一次 C,n 輪就是 Cⁿ。
倍率沿著合成相乘,而小於 1 的倍率反覆相乘會趨向零。∎
起點1 輪 2 輪3 輪 dd/4 d/16d/64

這張圖在說引理後半句的效果:倍率 ¼ 的函數每作用一輪,任何兩點的距離就縮到原來的四分之一,三輪之後只剩 1/64。要留意縮短的是「任何兩點」的距離,不是某一對——所以整個空間被一輪一輪地擠向某處。下一篇要問的正是:擠向的那個「某處」是不是一個點,而且是不是永遠存在。

—— 第三階段到此結束 ——

本篇立了一個比均勻連續強、卻更好檢查的條件:Lipschitz 條件只要求交出一個倍率 A,而 δ(ε) = ε/A 直接跟著出來。倍率小於 1 的稱為 contraction,它把任何兩點的距離都拉短。例 5 用開根號說明反向不成立——均勻連續不必是 Lipschitz,手法是固定其中一個點把全稱條件壓成一個變數的問題。最後那條引理說倍率沿著合成相乘,於是 contraction 反覆作用時距離以 Cⁿ 的速度崩塌。伸個懶腰再回來,下一篇要把這個崩塌兌現成一個點。