I. Toàn cảnh dưới vi phân hàm Lipschitz trong không gian Banach
Luận văn thạc sĩ về dưới vi phân của hàm Lipschitz trong không gian Banach mở ra một chương mới trong lĩnh vực giải tích không trơn (nonsmooth analysis). Lĩnh vực này là sự mở rộng tự nhiên của giải tích vi phân cổ điển, vốn chỉ áp dụng cho các hàm trơn (khả vi liên tục). Tuy nhiên, nhiều bài toán thực tiễn trong lý thuyết tối ưu, kinh tế và kỹ thuật lại liên quan đến các hàm không trơn, chẳng hạn như hàm giá trị tuyệt đối, hàm max, hoặc hàm khoảng cách. Sự ra đời của các công cụ giải tích cho lớp hàm rộng hơn, đặc biệt là hàm Lipschitz, là một yêu cầu cấp thiết. Một hàm được gọi là Lipschitz địa phương nếu nó bị chặn về tốc độ thay đổi trong một lân cận của mỗi điểm. Tính chất này yếu hơn tính khả vi nhưng vẫn đủ mạnh để xây dựng một lý thuyết vi phân có ý nghĩa. Luận văn này tập trung vào việc xây dựng và phân tích khái niệm gradient suy rộng (generalized gradient), hay còn gọi là dưới vi phân Clarke, một công cụ thay thế cho đạo hàm cổ điển. Công cụ này không chỉ kế thừa các tính chất tốt của đạo hàm Fréchet trong trường hợp hàm trơn mà còn tương thích với dưới vi phân của hàm lồi trong giải tích lồi. Nền tảng của nghiên cứu này là giải tích hàm (functional analysis) trong các không gian định chuẩn tổng quát, đặc biệt là không gian Banach, cung cấp một khuôn khổ chặt chẽ và tổng quát cho các kết quả.
1.1. Nền tảng cốt lõi từ không gian định chuẩn đến giải tích hàm
Để hiểu sâu về dưới vi phân của hàm Lipschitz, cần nắm vững các khái niệm nền tảng từ giải tích hàm. Nghiên cứu được đặt trong bối cảnh của một không gian Banach – một không gian định chuẩn đầy đủ. Không gian này cung cấp cấu trúc cần thiết để định nghĩa giới hạn và tính liên tục. Các khái niệm quan trọng khác bao gồm không gian đối ngẫu (không gian của các phiếm hàm tuyến tính liên tục), và các loại tôpô khác nhau như tôpô yếu và tôpô yếu*. Những khái niệm này là thiết yếu khi định nghĩa dưới vi phân, vì bản thân dưới vi phân là một tập hợp các phiếm hàm trong không gian đối ngẫu. Các không gian đặc biệt như không gian Hilbert cũng được xem xét như những trường hợp quan trọng, nơi cấu trúc hình học trở nên trực quan hơn.
1.2. Bước đệm quan trọng khái niệm dưới vi phân của hàm lồi
Trước khi mở rộng sang hàm Lipschitz, lý thuyết dưới vi phân cho hàm lồi đã được phát triển rất mạnh mẽ. Đối với một hàm lồi tại một điểm, dưới vi phân là tập hợp tất cả các dưới gradien. Về mặt hình học, mỗi dưới gradien xác định một siêu phẳng tựa nằm bên dưới đồ thị của hàm. Khái niệm này đã chứng tỏ vai trò to lớn trong các bài toán tối ưu lồi, nơi điều kiện cần và đủ cho điểm cực tiểu là 0 phải thuộc vào tập dưới vi phân tại điểm đó. Các tính chất và phép toán trên dưới vi phân hàm lồi, như công thức tính tổng, là tiền đề quan trọng để xây dựng các quy tắc tương tự cho gradient suy rộng của hàm Lipschitz.
II. Thách thức của giải tích cổ điển với hàm không trơn
Giải tích vi phân cổ điển dựa trên khái niệm đạo hàm Gâteaux và Fréchet, yêu cầu hàm phải "trơn" tại điểm xét. Tuy nhiên, trong thực tế, rất nhiều hàm quan trọng không thỏa mãn điều kiện này. Ví dụ, hàm f(x) = |x| không khả vi tại x = 0, hay các hàm xuất hiện trong các bài toán tối ưu min-max. Khi một hàm không khả vi, đạo hàm không tồn tại, và toàn bộ công cụ của giải tích cổ điển (như quy tắc Fermat, định lý giá trị trung bình) không thể áp dụng trực tiếp. Đây là một rào cản lớn. Ngay cả khi giải tích lồi cung cấp công cụ dưới vi phân cho hàm lồi, nó vẫn chưa đủ tổng quát. Nhiều hàm Lipschitz quan trọng trong ứng dụng không phải là hàm lồi, ví dụ f(x) = -|x|. Do đó, tồn tại một khoảng trống lý thuyết lớn: làm thế nào để thực hiện phép tính vi phân cho lớp hàm Lipschitz tổng quát, không nhất thiết phải lồi? Luận văn giải quyết thách thức này bằng cách giới thiệu và phát triển một lý thuyết chặt chẽ cho vi phân suy rộng, cung cấp một công cụ mạnh mẽ và linh hoạt để phân tích các bài toán tối ưu không trơn.
2.1. Giới hạn của đạo hàm Fréchet và Gâteaux trong nonsmooth analysis
Đạo hàm Fréchet và Gâteaux là nền tảng của giải tích vi phân trong không gian Banach. Tuy nhiên, sự tồn tại của chúng đòi hỏi hàm phải có xấp xỉ tuyến tính tốt tại một điểm. Nhiều hàm Lipschitz, dù liên tục và có cấu trúc tốt, lại có "góc nhọn" hoặc "điểm gãy" nơi đạo hàm không tồn tại. Ví dụ điển hình là các hàm định chuẩn hoặc hàm khoảng cách tới một tập hợp. Việc thiếu vắng đạo hàm tại những điểm này khiến các phương pháp dựa trên gradient cổ điển trở nên vô dụng. Lĩnh vực nonsmooth analysis ra đời chính để vượt qua giới hạn này, tìm cách định nghĩa một đối tượng tương tự đạo hàm tại mọi điểm.
2.2. Tại sao lý thuyết tối ưu cần một công cụ mạnh hơn dưới vi phân lồi
Lý thuyết dưới vi phân cho hàm lồi là một thành tựu lớn, nhưng nó chỉ áp dụng cho một lớp hàm cụ thể. Trong nhiều bài toán tối ưu không trơn, hàm mục tiêu hoặc các hàm ràng buộc có thể không lồi. Chẳng hạn, các bài toán về tối ưu hóa hình dạng hoặc trong lý thuyết điều khiển thường dẫn đến các hàm Lipschitz phi lồi. Việc thiếu một công cụ vi phân cho các hàm này đã hạn chế khả năng phân tích và tìm kiếm lời giải. Do đó, việc mở rộng khái niệm dưới vi phân từ lớp hàm lồi sang lớp hàm Lipschitz địa phương là một bước tiến quan trọng, cho phép giải quyết một phạm vi bài toán rộng lớn hơn nhiều.
III. Phương pháp định nghĩa Gradient suy rộng cho hàm Lipschitz
Để vượt qua các thách thức của hàm không trơn, F.H. Clarke đã giới thiệu một phương pháp độc đáo để định nghĩa dưới vi phân của hàm Lipschitz, được gọi là dưới vi phân Clarke hay gradient suy rộng. Cách tiếp cận này không định nghĩa trực tiếp đạo hàm, mà thông qua một khái niệm trung gian gọi là đạo hàm theo hướng suy rộng. Thay vì lấy giới hạn thông thường, vốn có thể không tồn tại, Clarke sử dụng giới hạn trên (limsup). Đạo hàm theo hướng suy rộng của hàm f tại x theo hướng v, ký hiệu f°(x;v), được định nghĩa là limsup của tỉ số gia của hàm khi điểm gốc và bước thời gian cùng tiến về 0. Khái niệm này luôn tồn tại cho hàm Lipschitz địa phương. Một khi có được đạo hàm theo hướng suy rộng, gradient suy rộng ∂f(x) được định nghĩa là tập hợp các phiếm hàm tuyến tính trong không gian đối ngẫu mà giá trị của chúng theo hướng v không vượt quá f°(x;v). Kết quả thu được là một tập hợp lồi, compact yếu*, và khác rỗng. Định nghĩa này là một sự tổng quát hóa thực sự: nếu hàm khả vi liên tục, ∂f(x) chỉ chứa duy nhất đạo hàm cổ điển; nếu hàm lồi, nó trùng với dưới vi phân lồi.
3.1. Xây dựng đạo hàm theo hướng suy rộng generalized directional derivative
Nền tảng của dưới vi phân Clarke là đạo hàm theo hướng suy rộng. Cho hàm Lipschitz địa phương f, đạo hàm suy rộng tại x theo hướng v được định nghĩa: f°(x;v) = limsup (y→x, t↓0) [f(y + tv) - f(y)] / t. Công thức này có hai ưu điểm lớn: nó luôn tồn tại hữu hạn và nó "làm trơn" các góc nhọn của hàm bằng cách xem xét các lân cận xung quanh điểm x (thông qua y→x). Hàm số v ↦ f°(x;v) kết quả là một hàm lồi, thuần nhất dương và liên tục. Tính chất này cho phép sử dụng các công cụ mạnh của giải tích lồi để định nghĩa gradient suy rộng.
3.2. Định nghĩa dưới vi phân Clarke từ hàm tựa
Từ đạo hàm theo hướng suy rộng f°(x;·), dưới vi phân Clarke ∂f(x) được định nghĩa một cách tự nhiên thông qua mối liên hệ đối ngẫu. Cụ thể, ∂f(x) là tập dưới vi phân của hàm lồi p(v) = f°(x;v) tại điểm v=0. Một cách tương đương, ∂f(x) = {x* ∈ X* | ⟨x*, v⟩ ≤ f°(x;v) với mọi v ∈ X}. Điều này có nghĩa là f°(x;·) chính là hàm tựa của tập ∂f(x). Định nghĩa này đảm bảo ∂f(x) là một tập lồi, compact trong tôpô yếu* và khác rỗng. Đây là những tính chất toán học quan trọng, đảm bảo sự ổn định và hữu dụng của khái niệm này trong các phép toán và ứng dụng.
IV. Hướng dẫn tính toán dưới vi phân Clarke và các tính chất
Một trong những ưu điểm lớn của dưới vi phân Clarke là sự tồn tại của các quy tắc tính toán tường minh, tương tự như trong giải tích cổ điển. Luận văn trình bày chi tiết các phép toán cơ bản như quy tắc tính tổng, quy tắc nhân với hằng số, và quan trọng nhất là các công thức cho hàm hợp và hàm max. Ví dụ, dưới vi phân của tổng hai hàm Lipschitz được chứa trong tổng của các dưới vi phân tương ứng, và dấu bằng xảy ra trong những điều kiện chính quy nhất định. Trong không gian hữu hạn chiều, có một kết quả cực kỳ hữu ích dựa trên định lý Rademacher: hàm Lipschitz khả vi hầu khắp nơi. Do đó, gradient suy rộng tại một điểm có thể được tính bằng cách lấy bao lồi của tất cả các giới hạn của các gradient cổ điển tại các điểm lân cận (nơi hàm khả vi). Công thức này cung cấp một cách tiếp cận trực quan và khả thi để tính toán dưới vi phân trong thực hành, đặc biệt là trong các không gian Euclide. Các tính chất này làm cho dưới vi phân của hàm Lipschitz không chỉ là một khái niệm lý thuyết trừu tượng mà còn là một công cụ tính toán hiệu quả.
4.1. Mối quan hệ với đạo hàm cổ điển và dưới vi phân lồi
Khái niệm vi phân suy rộng là một sự tổng quát hóa nhất quán. Nếu hàm f khả vi chặt (strictly differentiable) tại x, thì dưới vi phân Clarke ∂f(x) thu gọn lại thành một tập chỉ chứa một phần tử, chính là đạo hàm Fréchet f'(x). Nếu f là một hàm lồi và liên tục, ∂f(x) trùng khớp hoàn toàn với dưới vi phân theo nghĩa của giải tích lồi. Những mối liên hệ này khẳng định rằng lý thuyết mới không mâu thuẫn mà bao hàm các lý thuyết cũ, tạo ra một khuôn khổ thống nhất cho các lớp hàm khác nhau.
4.2. Các quy tắc tính toán tổng tích thương và hàm hợp
Việc xây dựng các quy tắc tính toán là tối quan trọng để ứng dụng lý thuyết. Luận văn đã tổng hợp các quy tắc quan trọng cho gradient suy rộng. Chẳng hạn, ∂(f+g)(x) ⊂ ∂f(x) + ∂g(x). Dấu bằng xảy ra nếu một trong các hàm là khả vi liên tục. Các quy tắc phức tạp hơn như quy tắc chuỗi (chain rule) cho hàm hợp g ∘ F cũng được thiết lập, thường dưới dạng bao hàm thức. Các công thức này, dù đôi khi chỉ là ước lượng trên, vẫn cung cấp thông tin giá trị về cấu trúc vi phân cục bộ của các hàm phức tạp, vốn được xây dựng từ các hàm đơn giản hơn.
V. Top ứng dụng của dưới vi phân trong lý thuyết tối ưu
Ứng dụng quan trọng nhất của lý thuyết dưới vi phân của hàm Lipschitz nằm trong lý thuyết tối ưu. Nó cho phép thiết lập các điều kiện cần cho điểm cực trị trong các bài toán tối ưu không trơn, cả có ràng buộc và không có ràng buộc. Đối với bài toán tối ưu không ràng buộc min f(x), điều kiện cần để x̄ là điểm cực tiểu địa phương là 0 ∈ ∂f(x̄). Đây là sự tổng quát hóa trực tiếp của quy tắc Fermat (f'(x̄) = 0) trong giải tích cổ điển. Hơn nữa, lý thuyết này còn được sử dụng để mở rộng các khái niệm hình học như nón tiếp xúc và nón pháp tuyến cho các tập hợp không lồi. Nón tiếp xúc Clarke và nón pháp tuyến Clarke được định nghĩa thông qua đạo hàm suy rộng của hàm khoảng cách. Những khái niệm hình học này là công cụ cơ bản để thiết lập các điều kiện tối ưu cho các bài toán có ràng buộc, chẳng hạn như điều kiện Karush-Kuhn-Tucker (KKT) dạng suy rộng. Các ứng dụng này cho thấy sức mạnh của giải tích không trơn trong việc giải quyết các vấn đề phức tạp và thực tế.
5.1. Điều kiện cần cho bài toán tối ưu không trơn có ràng buộc
Đối với một bài toán tối ưu không trơn có ràng buộc, việc tìm kiếm điều kiện cần cho nghiệm là một mục tiêu trung tâm. Bằng cách sử dụng nón pháp tuyến Clarke, có thể phát biểu các quy tắc nhân tử Lagrange suy rộng. Các điều kiện này liên kết dưới vi phân của hàm mục tiêu và các hàm ràng buộc tại một điểm tối ưu, cung cấp một hệ thống các phương trình và bao hàm thức để xác định các ứng cử viên cho điểm tối ưu. Đây là nền tảng cho việc phát triển các thuật toán tối ưu hóa số cho các bài toán phi lồi và không trơn.
5.2. Mở rộng khái niệm nón tiếp xúc và nón pháp tuyến
Trong giải tích lồi, nón tiếp xúc và nón pháp tuyến là những công cụ hình học mạnh mẽ. Lý thuyết dưới vi phân Clarke cho phép mở rộng các khái niệm này cho các tập hợp đóng bất kỳ, không nhất thiết phải lồi. Nón tiếp xúc Clarke tại một điểm được định nghĩa là tập hợp các hướng mà theo đó hàm khoảng cách không tăng theo cấp một. Nón pháp tuyến Clarke là nón đối cực của nó. Mối liên hệ quan trọng là nón pháp tuyến có thể được đặc trưng bởi bao lồi đóng của các dưới vi phân của hàm khoảng cách, N_S(x) = cl(cone(∂d_S(x))). Điều này tạo ra một cầu nối đẹp đẽ giữa các khái niệm vi phân và hình học trong nonsmooth analysis.
