Professional Documents
Culture Documents
CẤP HAI
R. Andreani·C.E. Echagüe·M.L. Schuverdt
Tóm tắt Điều kiện hạng không đổi cho điểm khả dĩ của bài toán quy hoạch phi
tuyến được định nghĩa bởi Janin (Math. Program. Study 21:127–138, 1984). Trong
bài nghiên cứu đó, tác giả đã chứng minh điều kiện hạng không đổi là một điều
kiện chính quy cấp một. Còn ở bài viết này, chúng tôi chứng minh điều kiện đó
cũng là một điều kiện chính quy cấp hai và nêu ra định nghĩa của một số điều kiện
chính quy cấp hai khác.
Từ khóa Quy hoạch phi tuyến, điều kiện chính quy ràng buộc
1. Giới thiệu
Ta xét bài toán quy hoạch phi tuyến tổng quát với các ràng buộc đẳng thức và
bất đẳng thức dưới dạng:
với (1)
trong đó là những hàm khả vi cấp hai
liên tục trên Với mỗi điểm khả dĩ ta định nghĩa tập các ràng buộc bất
đẳng thức tích cực tại như sau:
Trong tối ưu hóa có ràng buộc, việc tìm ra những cực tiểu toàn cục tuy được
quan tâm nhưng lại là vấn đề rất khó. Đó là lý do chính tại sao chúng tôi nghiên
cứu những điều kiện tối ưu và các ràng buộc thay vì đi tìm cực tiểu toàn cục. Ý
tưởng đằng sau đó là tìm những điều kiện cần tối ưu tốt cho điểm cực tiểu của
bài toán (1).
Điều kiện cấp một quan trọng nhất kết nối hàm mục tiêu với các ràng buộc là điều
kiện Karush/Kuhn-Tucker ( điều kiện KKT,[2,3]). Cho là một điểm khả dĩ của
(1), tồn tại các vecto thỏa mãn :
(2)
Các vecto được gọi là nhân tử KKT và là điểm dừng của bài
toán (1). Xem thêm ví dụ [4,5]. Một điểm thỏa mãn (2) là một điểm dừng của hàm
Lagrange liên kết với (1).
Tuy nhiên, điều kiện (2) lại không phải là một điều kiện cần tối ưu cấp một cho
một điểm cực tiểu. Ví dụ, nghiệm của bài toán tìm cực tiểu cho hàm với
không thỏa mãn điều kiện KKT. Điều kiện chính quy cấp một là những
điều kiện chỉ ra rằng, nếu là một điểm cực tiểu khả dĩ thì sẽ là điểm dừng của
hàm Lagrange liên kết với mỗi hàm mục tiêu mà nó cực tiểu hóa.
Điều kiện chính quy cấp một được sử dụng rộng rãi nhất là LICQ ( chú thích ở
phần Andreani2007) . LICQ kéo theo sự tồn tại và duy nhất của các nhân tử KKT
của một nghiệm đã cho. Ngoài ra trong tài liệu cũng trình bày những điều kiện
chính quy cấp một yếu hơn. Điều kiện Mangasarian-Fromovitz ( MFCQ ), được
định nghĩa trong mục [6], thiết lập các gra-đi-en độc lập tuyến tính dương của các
ràng buộc đẳng thức và bất đẳng thức tích cực tại một điểm khả dĩ cho sẵn và nó
yếu hơn LICQ. Một điều kiện chính quy khác yếu hơn LICQ là điều kiện chính
quy hạng không đổi ( CRCQ ), được nêu ra trong mục [1]. Ta nói rằng, một điểm
khả dĩ thỏa mãn điều kiện chính quy hạng không đổi nếu như tồn tại một lân cận
của điểm khả dĩ đó sao cho hạng của bất kỳ tập con các gra-đi-en của ràng buộc
đẳng thức và bất đẳng thức tích cực không thay đổi. Xem thêm mục [1] về các ví
dụ đơn giản chỉ ra rằng CRCQ độc lập với MFCQ. Trong mục [7] có định nghĩa về
tính phụ thuộc tuyến tính dương không đổi (CPLD) và tính chất này được thiết lập
thành một điều kiện chính quy cấp một ở mục [8]. CPLD yếu hơn CRCQ và
MFCQ ( xem mục [8]).
Chúng ta có thể tìm thấy các điều kiện chính quy cấp một khác trong chuỗi tài liệu
ở cuối bài viết . Một trong số chúng là: tính tựa chuẩn tắc (Hestenes-[9]), tính giả
chuẩn tắc [10,11], Abadie [12] và Guignard [13]. Điều kiện Guignard là điều kiện
chính quy cấp một yếu nhất cho các bài toán khả vi như đã trình bày trong mục
[14]. Khi một điều kiện chính quy cấp một xảy ra, các nhân tử KKT và những
thuật toán hữu hiệu dựa trên ý tưởng về đối ngẫu được xây dựng là có thể xảy ra.
Việc khám phá ra những điều kiện chính quy cấp một mới yếu hơn và điều kiện
cần tối ưu là một vấn đề mở trong tối ưu hóa phi tuyến. Trong mục [15,16], người
ta đưa ra định nghĩa của một điều kiện cần tối ưu và điều kiện chính quy ràng buộc
bằng phương pháp phân tích không gian ảnh [17].
Những điều kiện cần tối ưu cấp hai rất quan trọng vì chúng giúp nghiên cứu về độ
cong của hàm Lagrange trên tập các hướng khả dĩ. Điều kiện cấp hai được mong
đợi mà kết nối hàm mục tiêu với các ràng buộc là điều kiện KKT cộng thêm điều
kiện cần cấp hai mạnh ( SSONC): cho là một điểm khả dĩ của (1), tồn tại các
vecto tồn tại sao cho điều kiện (2) đúng với và SSONC:
(3)
với mọi hướng trong không gian con tiếp xúc dưới đây:
trong đó
Điều kiện (3) chỉ ra rằng ma trận Hessian của hàm Lagrange tại thu hẹp
Do vậy, không gian con tiếp xúc trong SSONC phụ thuộc vào hàm mục tiêu của
bài toán.
Một số thuật toán thực nghiệm cấp hai ( xem ví dụ [18]) xét đến sự phân tích của
ma trận Hessian của hàm Lagrange trong không gian con tiếp xúc dưới đây:
Rõ ràng với điểm khả dĩ đã cho, và không phụ thuộc vào
hàm mục tiêu. Bằng việc xét , ta có thể xác định một điều kiện cấp hai khác
mà kết hợp được hàm mục tiêu với các ràng buộc – điều kiện KKT cộng với điều
kiện cần cấp hai yếu ( WSONC ) – cho là một điểm khả dĩ của (1), tồn tại các
vecto sao cho điều kiện (2) đúng với và WSONC:
với mọi
Trong thực hành, tiếp tuyến được liên kết với một vài thuật toán quy hoạch
phi tuyến nổi tiếng; xem mục [19] và chỉ dẫn tham khảo tại đó. Trong mục [19],
các tác giả đã chỉ ra một lớp các thuật toán tối ưu hóa phi tuyến sử dụng những
hàm chắn, mà ở đó điều kiện cần cấp hai mạnh có thể không xảy ra tại các điểm
giới hạn, kể cả khi dãy các cực tiểu của bài toán con thỏa mãn điều kiện đủ cấp hai.
Điều này cho thấy tầm quan trọng của điều kiện cấp hai yếu trong thực nghiệm.
Nhận thấy rằng nếu điều kiện bù chặt đúng tại điểm dừng ( nghĩa là
2. Định nghĩa
Cho là những hàm khả vi cấp hai liên tục. Định
nghĩa tập khả dĩ như sau:
họ các gra-đi-en
sao cho ma trận Jacobian có hạng không đổi trong một lân cận của
Định nghĩa không gian con tuyến tính:
Khi đó tồn tại một vi đồng phôi địa phương trong đó là các
lân cận của thỏa mãn các điều kiện dưới đây:
(i)
(ii) Ma trận Jacobian của tại là ma trận đơn vị,
(iii) Các hàm số là các hàm hằng với mọi
Chú ý 3.1 Như được đề cập trong mục [1], kết quả này là một trường hợp đặc
biệt của định lí hạng không đổi trong Malliavin [28]. Để ý rằng giả thiết được
yêu cầu không phải là điều kiện hạng không đổi mà là hạng không đổi của ma
trận Jacobian trong lân cận của một điểm đã cho. Đây là giả thiết xuất hiện
trong định lí về hạng không đổi ( Malliavin).
Mệnh đề 3.2 dưới đây là một hệ quả của mệnh đề 3.1 và được dùng để chứng
minh CRCQ la một điều kiện chính quy cấp một ( xem [1]). Mệnh đề này sẽ
được viết lại dưới dạng mới để tiện dùng hơn trong việc chứng minh điều kiện
cần cấp hai mạnh. Phần hai của mệnh đề này không được nêu ra trong mục [1]
và có thể suy ra trực tiếp từ phần chứng minh. Ở đây chúng tôi sẽ giải thích đầy
đủ hơn.
Mệnh đề 3.2 Giả sử điều kiện chính quy hạng không đổi đúng với Khi
đó, với mỗi sao cho
(4)
(a)
(b) với mọi sao cho thì
Lấy và xét
Xét đủ nhỏ. Khi đó, bởi tính liên tục và điều kiện (i),
(ii) của mệnh đề 3.1,ta có:
Khi đó,
Đặt ta có
Trong định lí được giới thiệu sau đây, chúng tôi chứng minh rằng, nếu một
điểm cực tiểu thỏa mãn điều kiện chính quy hạng không đổi thì điều kiện cần
cấp hai mạnh sẽ đúng với mọi nhân tử KKT.
Định lí 3.1 Cho là một điểm cực tiểu của (1) thỏa mãn điều kiện chính quy
hạng không đổi. Khi đó, với mọi vecto nhân tử KKT thỏa
mãn điều kiện cần tối ưu cấp hai mạnh .
Chứng minh Sự tồn tại của tập các nhân tử KKT tại được thiết lập rất rõ
ràng trong mục [1]. Chúng ta sẽ đi chứng minh bất kì một nhân tử nào trong số
đó cũng sẽ thỏa mãn điều kiện cần cấp hai mạnh. Cho là một
nhân tử KKT cố định.
Do đó và ta có
Theo mệnh đề 3.2, tồn tại một cung khả dĩ sao cho
nên ta có:
(5)
(6)
Chú ý 3.2 Ta thấy rằng, với phương có thể không phải tất cả các
gra-đi-en của ràng buộc bất đẳng thức tích cực thỏa mãn Bởi
vậy nên cần có giả thiết về điều kiện chính quy hạng không đổi.
Sự tồn tại của cung khả dĩ cho thấy điều kiện chính quy hạng không đổi
có thể coi là tổng quát hóa tự nhiên của điều kiện chính quy độc lập tuyến tính.
Định lí 3.1 chỉ ra rằng điều kiện CRCQ nắm bắt một cách chính xác hình dạng
của không gian con tiếp xúc giống như điều kiện chính quy LICQ. Với
điều kiện CRCQ, điều kiện SSONC đúng với mọi nhân tử KKT.
Trong mục [29], các tác giả đã chứng minh rằng tồn tại một nhân tử KKT mà ở
đó điều kiện SSONC đúng tại nếu là một điểm cực tiểu của (1) thỏa
mãn điều kiện chính quy cấp hai sau đây:
(i) MFCQ đúng tại
(ii) Hạng của các gra-đi-en của những ràng buộc đẳng thức và bất đẳng thức
tích cực tại bằng trong đó là số các ràng buộc bất đẳng thức
tích cực .
(iii) Tồn tại nhiều nhất một chỉ số sao cho nếu là một nhân tử
KKT thì
Điều kiện thứ ba là một điều kiện bù và các tác giả phỏng đoán rằng nó không
phải là điều kiện cần.
Trong mục [27], các tác giả đã chứng minh rằng tồn tại một nhân tử KKT mà ở
đó điều kiện WSONC đúng tại nếu là một điểm cực tiểu của (1) thỏa
mãn điều kiện chính quy cấp hai sau đây:
(ii) Điều kiện WCR đúng tại Hạng của ma trận Jacobian tạo bởi các gra-
Phép chứng minh điều kiện cuối là một điều kiện chính quy cấp hai yếu được
hoàn thiện khi dùng đến ý tưởng penalty và điều kiện chính quy này được sử
dụng trong phân tích tính hội tụ của phương pháp nhân tử Lagrange được giới
thiệu ở mục [27].
Sử dụng mệnh đề 3.2, ta có thể chứng minh định lí sau tổng quát hóa kết quả
thu được ở mục [27].
Định lí 3.2 Cho là một điểm cực tiểu của (1) thỏa mãn điều kiện KKT và
điều kiện hạng không đổi yếu WCR . Khi đó, với mọi vecto nhân tử KKT
Chú ý 3.3 Trong định lí 3.2, chúng tôi đã chứng minh điều kiện cần cấp hai
yếu đúng tại một điểm cực tiểu dưới một điều kiện chính quy cấp một bất kì và
điều kiện hạng không đổi yếu. Đây là một kết quả thú vị khi chúng tôi xét lớp
bài toán quy hoạch đặc biệt với các điều kiện bù sau đây:
Điểm gốc là chưa phải là nghiệm tối ưu cho hầu hết các thuật toán quy
hoạch phi tuyến, vì nó chỉ thỏa mãn điều kiện chính quy Guignard [13]. Chúng
tôi nhận thấy rằng điểm này thỏa mãn điều kiện chính quy cấp hai yếu xác định
bởi Guignard+WRC.
Trong mục [27], có một ví dụ chỉ ra rằng điều kiện hạng không đổi yếu không
phải là một điều kiện chính quy cấp một. Bài toán được nêu ra trong ví dụ đó
có cả ràng buộc đẳng thức và bất đẳng thức. Điều kiện KKT không xảy ra bởi
sự xuất hiện của ràng buộc bất đẳng thức. Điều kiện WCR đã được định nghĩa
từ trước trong mục [30] cho những bài toán chỉ có ràng buộc đẳng thức. Trong
đó, tác giả đã chứng minh rằng WCR sẽ kéo theo điều kiện chính quy Abadie.
Định lí dưới đây sẽ chứng minh điều kiện WCR cũng là một điều kiện chính
quy cấp hai bất cứ khi nào bài toán chỉ có các ràng buộc đẳng thức.
Định lí 3.3 Cho là một điểm cực tiểu của bài toán chỉ có ràng buộc đẳng
thức sau đây:
Giả sử thỏa mãn điều kiện hạng không đổi yếu. Khi đó, thỏa mãn cả điều
kiện KKT và điều kiện cần cấp hai với nhân tử KKT bất kì.
Chứng minh Định lí này là một hệ quả của mệnh đề 3.1 và mệnh đề 3.2.
Chú ý 3.4 Nhận thấy rằng khi bài toán chỉ có các ràng buộc đẳng thức,
và điều kiện cần cấp hai yếu tương đương với điều kiện cần cấp
hai mạnh. Điều kiện hạng không đổi yếu cho các bài toán đẳng thức yếu hơn so
với điều kiện chính quy Mangasarian-Fromovitz ( trong trường hợp này tương
đương với điều kiện độc lập tuyến tính ) và điều kiện hạng không đổi. Do đó,
điều kiện chính quy hạng không đổi có thể xem là tổng quát hóa của các điều
kiện đó.
4. Kết luận
Điều kiện chính quy hạng không đổi có vẻ là một công cụ hữu ích trong việc
phân tích tính hội tụ của một số phương pháp quy hoạch phi tuyến ( xem ví dụ
ở mục [23-25]). Điều kiện hạng không đổi là một điều kiện chính quy cấp một
đã được chứng minh rõ ràng ở mục [1]. Chúng tôi đã chứng minh điều kiện
CRCQ thực chất là một điều kiện chính quy cấp hai mạnh và dưới điều kiện
chính quy này, một điểm cực tiểu sẽ thỏa mãn điều kiện cần cấp hai mạnh với
nhân tử KKT bất kì.
Với tầm quan trọng trong thực nghiệm của điều kiện cần cấp hai yếu, chúng tôi
đã tổng quát hóa điều kiện chính quy cấp hai được định nghĩa trong mục [27].
Chúng tôi đã chứng minh rằng, nếu một điểm cực tiểu thỏa mãn điều kiện
chính quy cấp một bất kì và điều kiện hạng không đổi yếu , thì điều kiện
WSONC đúng với mọi nhân tử KKT. Điều kiện WCR cũng như MFCQ đều
hữu dụng trong việc đạt được tính hội tụ của phương pháp Lagrange bổ sung
cấp hai định nghĩa trong mục [27]. Xuyên suốt công trình này, chúng tôi đã
chứng minh WCR là một điều kiện chính quy cấp một và đồng thời là một điều
kiện chính quy cấp hai khi xét đến bài toán với ràng buộc đẳng thức. Chúng tôi
tin rằng kết quả này sẽ có ích trong tương lai, bởi WCR có thể được xem là
tổng quát hóa của tính chính quy và điều kiện chính quy hạng không đổi cho
loại bài toán này.
Việc tìm ra những điều kiện chính quy yếu hơn và mới, kể cả cấp một và cấp
hai, vẫn còn là một thử thách. Người ta mong muốn những điều kiện đó được
kiểm chứng một cách dễ dàng và có thể được liên kết từ một quan điểm thực tế
với sự phân tích tính hội tụ của các thuật toán tối ưu hóa phi tuyến.
Lời cảm ơn.....
Tài liệu tham khảo được nhắc trong bài...........