Chương 1 TỔNG QUAN VỀ KHÔNG GIAN Rn, HÀM NHIỀU BIẾN VÀ BÀI TOÁN TỐI ƯU Trong chương này, chúng ta sẽ nhắc lại những khái niệm và tính chất cơ bản trong không gian Rn , một vài khái niệm và tính chất cơ bản của lớp hàm liên tục, khả vi liên tục đến cấp p trong không gian Rn như định lí giá trị trung bình, công thức khai triển Taylor, định lí hàm ẩn, tập lồi và hàm lồi. Đây là những khái niệm, tính chất được sử dụng trong Chương 2. Nội dung ở chương này được tham khảo từ các tài liệu [1], [3], [4], [5].1 Một số kí hiệu và kiến thức cơ bản 1.1 Không gian Rn Chúng ta kí hiệu R là tập số thực và Rn là không gian gồm tất cả véctơ thực n chiều. Khoảng của số thực hoặc số thực mở rộng được kí hiệu như thường lệ.
Ví dụ: cho a ∈ R hoặc a = −∞ và b ∈ R hoặc b = +∞. Khi đó, ta viết (a, b ]={x|a < x ≤ b}. Cho tập con bất kì S ⊂ R bị chặn trên (dưới), chúng ta kí hiệu sup S (inf S ) là cận trên đúng (cận dưới đúng) của S. Nếu S không bị chặn trên (dưới), chúng ta viết sup S = ∞ (inf S = -∞).
Chúng ta quy ước mọi véctơ được coi là một véctơ cột. Chuyển vị của ma trận A cỡ m × n được kí hiệu là A′. Một véctơ x ∈ Rn sẽ được coi là một ma trận cỡ n × 1. Do đó, x′ biểu diễn một ma trận cỡ 1 × n hoặc 4 được gọi là véctơ hàng., xn là tọa độ của véctơ x ∈ Rn , ta viết x = (x1 , x2 ,.
Ta cũng có thể viết: x ≥ 0 nếu xi ≥ 0, i = 1,. Một ma trận đối xứng A cỡ n × n được gọi là nửa xác định dương nếu x′ Ax ≥ 0 với mọi x ∈ Rn. Trong trường hợp này, chúng ta viết: A ≥ 0. Chúng ta nói rằng A xác định dương nếu x′ Ax > 0 với mọi x ̸= 0 và viết: A > 0.
Cho một ma trận vuông A. Nếu det(A) = 0, ta nói ma trận A là ma trận suy biến. Ngược lại, nếu det(A) ̸= 0, ta nói ma trận A là ma trận không suy biến.2 Tập đóng, tập mở, tập compact Với mỗi véctơ x ∈ Rn và ϵ > 0, hình cầu mở tâm x, bán kính ϵ > 0 kí hiệu là S(x; ϵ) và được định nghĩa bởi: S(x; ε) = {z | |z − x| < ε}.1) Với mỗi tập con X ⊂ Rn và ε > 0, ta định nghĩa: S(X; ε) = {z |∃x ∈ X, |z − x| < ε}.2) Một tập con S của Rn được gọi là tập mở, nếu với mỗi véctơ x ∈ S , tồn tại ε > 0 sao cho S(x; ε) ⊂ S. Nếu S là tập mở và x ∈ S , thì S được gọi là một lân cận của x.
Phần trong của tập S ⊂ Rn là tập hợp tất cả các phần tử x ∈ S sao cho tồn tại ε > 0 để S(x; ε) ⊂ S. Tập S được gọi là tập đóng khi và chỉ khi phần bù của nó trong Rn là mở. Điều này tương đương với S đóng khi và chỉ khi mọi dãy hội tụ {xk } gồm các phần tử trong S hội tụ về một điểm cũng thuộc tập S. Tập con S của Rn được gọi là compact khi và chỉ khi S vừa đóng và vừa bị chặn.3 Hàm liên tục Một hàm f đi từ tập S1 ⊂ Rn đến tập S2 ⊂ Rm được kí hiệu là f : S1 → S2.
Hàm f được gọi là liên tục tại x ∈ S1 nếu f (xk ) → f (x) với mọi dãy {xk } ∈ S1 và xk → x. Điều này tương đương với f liên tục tại x nếu với mọi ε > 0, tồn tại δ > 0 sao cho với mọi y ∈ S1 , |y − x| < δ , ta có |f (y) − f (x)| < ε. Hàm f được gọi là liên tục trên S1 (hoặc đơn giản là liên tục) nếu nó liên tục tại mọi điểm x ∈ S1. Nếu S1 , S2 và S3 là các tập hợp và f1 : S1 → S2 và f2 : S2 → S3 là các hàm số, thì hàm số f2 ◦ f1 : S1 → S3 được định nghĩa bởi (f2 ◦ f1 )(x) = f2 [f1 (x)] được gọi là hàm hợp của f1 và f2.
Nếu f1 : Rn → Rm và f2 : Rm → Rp là liên tục, thì f2 ◦ f1 cũng liên tục.4 Hàm khả vi Định nghĩa 1. (Định nghĩa đạo hàm riêng) Trong toán học, đạo hàm riêng của một hàm số đa biến là đạo hàm theo một biến, các biến khác được xem như là hằng số. Ký hiệu của đạo hàm riêng là ∂. Đạo hàm riêng của f đối với biến x được ký hiệu khác nhau bởi ∂f fx′ , fx , ∂x f, hoặc.
(Véctơ gradient ∇f ): Giả sử f là một hàm số từ Rn đến R, nghĩa là f = f (x1 ,. Khi đó, gradient của hàm số f là một vectơ cột mà thành phần là đạo hàm theo các biến của f : T ∂f ∂f ∇f = ,.4) ∂x1 ∂xn Định nghĩa 1. (Ma trận Hessian) Giả sử hàm số n biến số f (x1 , x2 , .xn ) có các đạo hàm riêng cấp 2. Khi đó, ma trận vuông cấp n 6 ′′ ′′ ′′ fx1 x1 fx1 x2.
fxn xn nđược gọi là ma trận Hessian của hàm số f ., ∂f (x)/∂xn với mỗi x ∈ X và là các đạo hàm riêng liên tục trên X. Trong trường hợp này chúng ta nói rằng f ∈ C 1 trên X. Hơn nữa, chúng ta nói f ∈ C p trên X với hàm f : X → R, X ⊂ Rn là tập mở nếu tồn tại tất cả các đạo hàm riêng đến bậc p và tất cả các hàm đạo hàm riêng này đều liên tục trên X. Nếu f ∈ C p trên Rn , chúng ta nói gắn gọn là f ∈ C p.
Nếu f ∈ C 1 trên X , véctơ gradient của f tại điểm x ∈ X được định nghĩa là một véctơ cột: ∂f (x) ∂x1 .5 Định lí giá trị trung bình và khai triển dãy Tay- lor Cho tập mở X ⊂ Rn , f : X → R, và f ∈ C 1. Giả sử rằng X chứa đoạn thẳng nối hai điểm x, y ∈ X. Định lí giá trị trung bình phát biểu rằng tồn 7 tại một vô hướng α, 0 < α < 1, sao cho f (y) = f (x) + ▽f [x + α(y − x)]′ (y − x).8) Hơn nữa, nếu f ∈ C 2 , thì tồn tại một vô hướng α, 0 < α < 1, sao cho: f (y) = f (x) + ▽f (x)′ (y − x) + 1/2(y − x)′ ▽2 f [x + α(y − x)](y − x).9) Cho f : X → Rm và f ∈ C 1 trên tập mở X ⊂ Rn. Giả sử rằng X chứa đoạn thẳng nối hai điểm x, y ∈ X.
Khai triển dãy Taylor bậc nhất của f quanh x được cho bởi Z 1 f (y) = f (x) + ▽f [x + α(y − x)]′ (y − x)dα.10) 0 Hơn nữa, nếu f ∈ C 2 trên X , thì chúng ta có khai triển dãy Taylor bậc hai: Z 1 Z ξ ′ ′ 2 f (y) = f (x) + ▽f (x) (y − x) + (y − x) ▽ f [x + α(y − x)dα]dξ .6 Định lí hàm ẩn Xét một hệ gồm n phương trình với m + n ẩn số h(x, y) = 0, Trong đó, h : Rm+n → Rn , x ∈ Rm , và y ∈ Rn. Các định lí hàm ẩn giải quyết câu hỏi: Liệu ta có thể giải hệ phương trình với ẩn số là véctơ x. Tức là, liệu có tồn tại hàm ϕ được gọi là hàm ẩn, sao cho h[x, ϕ(x)]=0. Định lí hàm ẩn cổ điển sau đây khẳng định rằng điều này có thể xảy ra theo nghĩa cục bộ.
Tức là trong lân cận của (x̄, ȳ) sao cho ma trận gradient của h đối với y là không suy biến. (Định lí hàm ẩn 1) Cho S là tập con mở của Rm+n và h : S → Rn là một hàm thuộc C p trên S với p ≥ 0 nào đó. Giả sử ▽y h(x̄, ȳ) tồn tại và liên tục trên S. Cho (x̄, ȳ) ∈ S là một véctơ sao cho h(x̄, ȳ) = 0 8 và ma trận ▽y h(x̄, ȳ) là không suy biến.
Khi đó, tồn tại ε > 0, δ > 0 và một hàm số ϕ : S(x̄, ε) → S(ȳ, δ) sao cho ϕ ∈ C p trên S(x̄, ε), ȳ = ϕ(x̄), và h[x, ϕ(x)] = 0 với mọi x ∈ S(x̄, ε). Hàm số ϕ là duy nhất, tức là nếu x ∈ S(x̄, ε), y ∈ S(ȳ, δ), và h(x, y) = 0, thì y = ϕ(x). Hơn nữa, nếu p ≥ 1, thì với mọi x ∈ S(x̄, ε), ▽ϕ(x) = − ▽x h[x, ϕ(x)][▽y h[x, ϕ(x)]]−1 .12) Chúng ta cũng sẽ cần thêm định lí hàm ẩn sau đây. Đây là một dạng đặc biệt của một định lý tổng quát hơn được tìm thấy bởi Hestenes (1966) [5].
(Định lí hàm ẩn 2) Cho S là tập con mở của Rm+n , X̄ là một tập con compact của Rm , và h : S → Rn là một hàm sao cho h ∈ C p trên S với một số p ≥ 0. Giả sử rằng ▽y h(x, y) tồn tại và liên tục trên S. Giả sử rằng ȳ ∈ Rn là một véctơ sao cho (x̄, ȳ) ∈ S, h(x̄, ȳ) = 0, và ma trận ▽y h(x, y) là không suy biến với mọi x̄ ∈ X̄. Khi đó, tồn tại một ε > 0, δ > 0, và một hàm số ϕ : S(X̄, ε) → S(ȳ, δ) sao cho ϕ ∈ C p trên S(X̄, ε), ȳ = ϕ(x̄) với x̄ ∈ X̄ , và h(x, y) = 0, khi đó y = ϕ(x).
Hơn nữa, nếu p ≥ 1, khi đó với mọi x ∈ S(X̄, ε) ▽ϕ(x) = − ▽x h[x, ϕ(x)][▽y h[x, ϕ(x)]]−1 .13) Khi X̄ gồm một véctơ x̄ duy nhất, thì hai định lí hàm ẩn trên trùng nhau.7 Tập lồi Tập S ⊂ Rn được gọi là tập lồi nếu với mọi x, y ∈ S và α ∈ [0, 1], chúng ta có: αx + (1 − α)y ∈ S .