ĐIỀU KIỆN CẦN TỐI ƯU CẤP HAI MẠNH VÀ YẾU CHO BÀI

TOÁN QUY HOẠCH PHI TUYẾN

L. Minchenko và A. Leschov

Tóm tắt Điều kiện cần tối ưu cấp hai đóng một vai trò quan trọng trong lí thuyết
tối ưu. Lí giải điều này, ta thấy hầu hết các thuật toán tối ưu số đều đưa về việc tìm
các điểm dừng thỏa mãn điều kiện cần tối ưu cấp một. Theo lệ thường, các bài toán
tối ưu, đặc biệt là những bài toán xét trong không gian với số chiều lớn, có rất
nhiều điểm dừng nên phải dùng điều kiện cần tối ưu cấp hai để loại trừ các điểm
không tối ưu. Những điều kiện này liên quan mật thiết đến các điều kiện chính quy
cấp hai. Trong bài viết này, nhóm tác giả sẽ xét đến những điều kiện cần tối ưu cấp
hai mạnh và yếu và chỉ ra rằng tính có hiệu lực của chúng được chứng minh dưới
điều kiện chính quy tới hạn tại các cực tiểu địa phương.

1. Giới thiệu
Xét bài toán quy hoạch phi tuyến NLP:

trong đó và tất cả các hàm đều

liên tục và khả vi cấp hai. Hàm Lagrange và hàm Lagrange mở rộng của bài toán
lần lượt là:

trong đó Tập các nhân tử Lagrange mở rộng là

tập gồm các vecto khác không thỏa mãn các điều kiện sau:

(1.1)

trong đó
Vecto thỏa mãn được gọi là một nhân tử Lagrange và tập

là tập các nhân tử Lagrange.

Điều kiện cần tối ưu đóng vai trò trung tâm trong lí thuyết tối ưu.Chúng tôi sẽ
phân biệt các điều kiện cần tối ưu cấp một và cấp hai, phụ thuộc vào cấp của đạo
hàm được sử dụng trong công thức của chúng.
Điều kiện cần tối ưu cấp hai bổ sung cho các điều kiện cấp một trong việc xây
dựng các thuật toán số để tìm nghiệm tối ưu ( xem ví dụ [1-4]) và trong phân
tích tính hội tụ của các thuật toán đó ( ví dụ [5.6]).
Xét nón các hướng tới hạn:

và không gian con tại một điểm

Với bài toán NLP, các điều kiện cần tối ưu cấp một và cấp hai dưới đây sẽ xảy
ra.
Định lí 1.1 Nếu một điểm là một cực tiểu địa phương của bài toán NLP
thì:
(1)
(2) với mọi tồn tại một nhân tử Lagrange mở rộng

sao cho
Hai điều kiện trên được coi là điều kiện cần cấp một và cấp hai cơ bản
(BSONC). Mối liên hệ giữa chúng được chứng minh lần đầu trong mục [8-10]
và nghiên cứu lại ở mục [7,11,12] và các bài nghiên cứu khác. Trong mục [13],
Arutyunov đã tìm được phiên bản mạnh hơn của hai điều kiện trên khi thay thế
tập các nhân tử Lagrange mở rộng bằng tập con của nó.
Kết quả tiếp theo đây đã đạt được trong mục [9] ( xem cả mục [11]).

Định lí 1.2 Cho là một cực tiểu địa phương của bài toán NLP và cho

Khi đó với đẳng thức đúng với

mọi khi và chỉ khi tồn tại một nhân tử Lagrange mở rộng

sao cho
Định lí này dẫn đến ngay kết quả là tại cực tiểu địa phương

khi và chỉ khi với mọi

Khi với mọi nhân tử Lagrange mở rộng , BSONC không

phụ thuộc vào hàm mục tiêu Đây được coi là một yếu điểm của BSONC. Sự

tồn tại của nhân tử với tương đương với điều kiện
, được gọi là điều kiện cần Kuhn–Tacker. Điều kiện Kuhn-Tacker
đúng với các điểm cực tiểu địa phương của NLP dưới một số giả thuyết bổ sung.
Điều kiện chính quy là những giả thiết bổ sung không phụ thuộc vào hàm mục
tiêu và đảm bảo được hiệu lực của điều kiện Kuhn–Tacker tại các điểm cực tiểu
địa phương trong bài toán NLP. Điều kiện chính quy cấp một được biết đến
nhiều nhất là tính độc lập tuyến tính của các gradient của các ràng buộc tích cực
( LICQ). LICQ dẫn đến sự tồn tại duy nhất của các nhân tử Lagrange cho
nghiệm Một điều kiện chính quy khác yếu hơn là MFCQ, giới thiệu bởi
Mangasarian và Fromovitz. Điều kiện này nói rằng tại một điểm đã cho,
các vecto độc lập tuyến tính và tồn tại vecto sao cho

MFCQ tương đương với điều kiện

sau:

LICQ và MFCQ là các điều kiện chính quy cấp một đảm bảo tính hiệu lực của
điều kiện Kuhn-Tacker tại các điểm tối ưu địa phương trong bài toán NLP.
Cùng với cá điều kiện cấp hai cơ bản, chúng tôi xét các điều kiện cần tối ưu cấp
hai mạnh và yếu ( xem mục [15-17]).

Định nghĩa 1.1 Cho

(1) Điều kiện cần tối ưu cấp hai mạnh ( SSONC) đúng với điểm khi và chỉ

khi với mỗi bất đẳng thức đúng với mọi

 . ( Bản gốc tác giả trình bày như vậy, em bôi vàng vì cảm thấy có vấn
đề ạ )
(2) Điều kiện cần tối ưu cấp hai yếu ( WSONC) đúng với điểm khi và chỉ khi

tồn tại sao cho bất đẳng thức đúng với mọi
vecto
SSONC và WSONC là các điều kiện có hiệu lực tại các điểm cực tiểu địa
phương dưới các điều kiện bổ sung được gọi là điều kiện chính quy cấp hai.
Xem mục [1-4,16,18,19], nhận thấy LICQ là một điều kiện chính quy cấp hai
đảm bảo tính hiệu lực của WSONC và SSONC. MFCQ cũng là một điều kiện
chính quy cấp hai cho BSONC, nghĩa là MFCQ đảm bảo tính hiệu lực của

BSONC với Tuy nhiên, một phản

ví dụ trong mục [20] chỉ ra rằng MFCQ không phải là một điều kiện chính quy
cấp hai cho WSONC và SSONC. Mặt khác, trong mục [16,18,21], tác giả đã
chứng minh MFCQ hoàn chỉnh kết hợp với một số điều kiện bổ sung dẫn đến
các điều kiện SSONC và WSONC.
Điều kiện CRCQ đúng tại một điểm nếu với mọi tập chỉ số

với họ các vecto không đổi hạng trong một

lân cận của điểm đó. Trong mục [15], SSONC được chứng minh là xảy ra dưới
điều kiện chính quy hạng không đổi [22]. Do đó, CRCQ là một điều kiện chính
quy cấp hai cho SSONC và dễ thấy CRCQ yếu hơn so với LICQ. Trong mục
[22], tác giả chứng minh rằng điều kiện CRCQ và MFCQ là độc lập với nhau,
tức là CRCQ không mạnh cũng không yếu hơn MFCQ. CRCQ cũng được dùng
để khảo sát các bài toán tối ưu trong [23].
Điều kiện chính quy hạng không đổi nới lỏng RCRCQ được giới thiệu gần đây
yếu hơn CRCQ và dễ kiểm tra hơn. Điều kiện này đúng tại một điểm nếu

với mọi tập chỉ số họ các vecto không đổi hạng

trong một lân cận của điểm đó.Điều kiện RCRCQ là điều kiện chính quy cấp hai
cho SSONC (mục [17]), điều kiện đúng tại điểm cực tiểu địa phương của NLP
nếu điểm đó thỏa mãn RCRCQ.
 Chúng tôi tập trung vào việc nghiên cứu các điều kiện cần tối ưu cấp hai mạnh
và yếu trong bài viết này. Mục tiêu của bài viết là mở rộng các kết quả [15,17]
liên quan đến điều kiện cần và giới thiệu một điều kiện mới ( điều kiện chính
quy tới hạn) bảo đảm tính hiệu lực của SSONC và WSONC tại một cực tiểu địa
phương
Bố cục:
Mục 2: nêu khái niệm tính chính quy tới hạn và chứng minh các điều kiện cần
tối ưu cấp hai cho bài toán NLP.
Mục 3: so sánh với các kết quả đã biết

2. Tính chính quy tới hạn và các điều kiện cấp hai

Xét tập chỉ số

Chú ý rằng từ Định lí 1.2 dẫn đến

Hai bổ đề dưới đây có thể suy ra trực tiếp từ định nghĩa của và

Bổ đề 2.1 Cho Tồn tại một vecto sao cho

Bổ đề 2.2 Giả sử tại một điểm Khi đó với mỗi

Bổ đề 2.3 Cho tại điểm Khi đó trong đó

Chứng minh Cho . Từ bổ đề 2.2 suy ra Mặt khác. cho

Khi đó, với mọi áp dụng bổ đề Farkas

( xem ví dụ mục [25]), tồn tại các số sao cho với
mọi và và:

Suy ra có ít nhất một phần tử với Do đó

Chú ý rằng tại điểm có thể viết lại dưới dạng khác. Cụ
thể,( xem ví dụ [7], tr.430 và 443), với bất kì, trong

đó { và sao cho

sao cho

Bổ đề dưới đây cho ta cách biểu diễn khác của dưới điều kiện

Bổ đề 2.4 Cho và Khi đó trong đó:

Chứng minh Cho Từ bổ đề 2.2, với bất kì:

Do đó, và Mặt khác

Giới thiệu khái niệm của chính quy tới hạn CRC, điều kiện cần thiết để xây
dựng và đạt được các kết quả chính quan trọng.

Định nghĩa 2.1: Điều kiện chính quy tới hạn CRC đúng tại khi và chỉ

khi và trong một lân cận của

Dễ thấy LICQ, CRCQ và RCRCQ kéo theo CRC.

Xét nón tiếp xúc thấp hơn đến tập tại

Nón là một nón đóng.

Giản đồ chứng minh của bổ đề tiếp theo suy rộng ra chứng minh của định lí 1
( mục [24]).

Bổ đề 2.5: Giả sử điều kiện chính quy tới hạn đúng tại . Khi đó

và với mỗi tồn tại một hàm khả vi cấp hai

liên tục và sao cho khi và

Chứng minh Xét . Khi đó, từ bổ đề 2.3 và 2.1, với mỗi hàm m-
vecto sao cho khi tồn tại một số sao cho

Đầu tiên, chú ý rằng hạng của ma trận Jacobi cho hệ các hàm

đối với trùng với hạng của ma trận Jacobi của hệ này
đối với tức là:

Giả sử Khi đó theo CRC, ta có:

trong một lân cận nào đó của Cho

Áp dụng định lí về hạng ( mục [26],tr.508) với hệ các hàm khả vi cấp hai liên
tục ta có hàm độc lập trong một lân cận nào đó của Không mất
tính tổng quát giả sử các hàm độc lập và các hàm khác phụ thuộc vào
chúng. Do đó, trong một lân cận nào đó

của trong đó và khả

vi cấp hai liên tục gần
Trong một lân cận của điểm ta xét hệ phương trình sau:

Hệ trên tương đương với:

Theo định lí về hàm ẩn ( mục [26], tr.490), hệ đã cho xác định trong một lân cận
nào đó của một hàm ẩn khả vi cấp hai liên tục sao cho

Do đó, với mọi , tồn tại và hàm liên tục khả vi cấp hai

sao cho khi và

Khi đó và do

đó,
Bổ đề tiếp theo chỉ ra rằng dưới điều kiện CRC tại một cực tiểu

Bổ đề 2.6 Giả sử điểm là một cực tiểu địa phương của bài toán NLP thỏa
mãn điều kiện chính quy tới hạn. Khi đó .
Chứng minh Từ định nghĩa của tập chỉ số và nón ta có:

Theo bổ đề 2.4 thì Khi đó và do

đó là với mọi Suy ra theo định lí 1.2

ta có .
Hệ quả 2,2 Điều kiện chính quy tới hạn đúng tại khi và chỉ khi

và trong một lân cận của

Chú ý rằng mặc dù CRC đảm bảo sự tồn tại của nhân tử Lagrange tại một
nghiệm của NLP nhưng nó không phải là điều kiện chính quy bởi nói chung tập
phụ thuộc vào hàm mục tiêu.

Định lí 2.1 Giả sử điểm là một nghiệm địa phương của bài toán NLP thỏa
mãn điều kiện chính quy tới hạn. Khi đó SSONC đúng tại điểm này.

Chứng minh Từ bổ đề 2.6 ta có . Xét nhân tử và vecto

. Theo bổ đề 2.1 và 2.4 ta có :

Do đó, theo bổ đề 2.5, tồn tại và hàm liên tục khả vi cấp hai sao

cho khi và

Vì và
là một điểm của cực tiểu địa phương nên:
Do đó,

(2.1)

Mặt khác, theo bổ đề 2.3 tập chứa tất cả các chỉ số sao cho
do đó, với mọi , đồng nhất thức sau xảy ra:

. Suy ra :

dẫn đến,

(2.2)
Kết hợp (2.1) và (2.2) ta được:

tức là:

với mọi , và do đó, với mọi

Hệ quả 2.3 Giả sử điểm là một nghiệm địa phương của bài toán NLP
thỏa mãn CRCQ hoặc RCRCQ. Khi đó SSONC đúng tại điểm này.

Hệ quả 2.4 Giả sử điểm là một nghiệm địa phương của bài toán NLP
thỏa mãn điều kiện chính quy tới hạn. Khi đó :
 với mọi
Chứng minh Từ (2.2) ta có:

Do đó,

với mỗi Dễ thấy vế phải của biểu thưc trên không phụ thuộc vào

Do đó, không phụ thuộc vào với mọi

Do đó và không phụ thuộc vào với

Chú ý rằng CRC luôn đúng tại một điểm khả dĩ nếu các gradient độc

lập tuyến tính với . Trong mục [9]. Gorokhovik đã chứng minh
rằng sự tồn tại duy nhất của các nhân tử lagrange tại điểm cực tiểu cuar
bài toán NLP là tương đương với điều kiện độc lập tuyến tính của các gradient

với mọi sao cho tồn tại Nói cách khác,

khi và chỉ khi các gradient độc lập tuyến tính với

. Dù dưới điều kiện CRC không phải là tập một phần tử

nhưng trong SSONC với mọi

Hệ quả 2.5 Giả sử điểm là một nghiệm địa phương của bài toán NLP

thỏa mãn điều kiện chính quy tới hạn. Khi đó với mọi

và với mọi vecto

 Chứng minh Theo định lí 2.1 SSONC đúng tại Chứng minh

Thật vậy, cho Khi đó

Lấy bất kì. Ta có:

và do đó Suy ra và do đó Do

đó WSONC đúng tại với mọi

3. So sánh với các kết quả có liên quan

So sánh các kết quả của định lsi 2.1 và hệ quả 2.5 với các kết quả khac trong
lĩnh vực này. Đầu tiên, chúng tôi chỉ ra rằng MFCQ không phải là một điều kiện
chính quy cấp hai cho SSONC.

Ví dụ 3.1 Cho

Dễ thấy là một nghiệm của bài toán NLP và MFCQ đúng tại

Mặc khác, và từ
SSONC suy luận được bất đẳng thức với mọi thoar man
Do đó SSONC không xảy ra.
Do đo, tính hiệu lực của điều kiện tối ưu cấp hai mạnh không được đảm bảo bởi
MFCQ.
Trong mục [18,21] các điều kiện bổ sung được đề ra cùng với MFCQ để cung
cấp căn cứ chính xác cho WSONC tại các cực tiểu địa phương của NLP.
Xem mục [21], ta nói rằng WCR đúng tại một điểm nếu

trong một lân cận của

Trong mục [21], tác giả đã chứng minh MFCQ cùng với WCR tại kéo theo
WSONC tại điểm đó. Kết quả [21] đã được làm mạnh trong mục [16], chỉ ra
rằng MFCQ có thể thay thế bởi các nhân tử Lagrange tại Chú ý rằng kết quả
cuối cùng có thể xây dựng lại ở dạng tổng quát hơn một chút so với dạng trong
mục [16].

Mệnh đề 3.1 Giả sử điểm là một cực tiểu địa phương của bài toán NLP,

khác rỗng và điều kiện WCR đúng với Khi đó

với mọi và với mọi vecto

Mệnh đề 3.1 có một số lợi ích khi so sánh với kết quả tương ứng trong mục [16].
Nó cho phép ta loại trừ các điểm không tối ưu, thỏa mãn WSONC trong mục

[16]. Thật vậy, nếu bất đẳng thức dưới không

thỏa mãn tại điểm cho một nhân tử thì điểm đó không tối ưu theo
mệnh đề 3.1 trong khi từ kết quả mục [16] không suy ra được điểm đó tối ưu hay
không tối ưu.
Ví dụ tiếp theo chỉ ra rằng điều kiện cần tối ưu cung cấp bởi hệ quả 2.5 có thể
hữu dụng trong các trường hợp WCR không thỏa mãn.

Ví dụ 3.2 Cho

Xét điểm . Dễ dàng kiểm tra rằng WCR không đúng tại Tính

các nhân tử Lagrange: Khi đó và

Tức là điều kiện CRC xảy ra. Mặt khác, và

theo hệ quả 2.5, bất đẳng thức xảy ra với mọi

Tuy nhiên bất đẳng thức này không có hiệu lực, và do đó, điểm
không phải là nghiệm của NLP. Chú ý rằng vì WCR không xảy ra nên điều kiện
[16,21] không xuất hiện trong ví dụ này.
Trong mục [18], Baccary và Trad đã tìm được các điều kiện tối ưu cấp hai yếu
dưới các giả thiết khác với ở muc [16,21]. Nhắc lại rằng điều kiện Baccary- Trad
đúng tại một điểm khả dĩ nếu MFCQ xảy ra và số các gradient độc lập tuyến

tính của các ràng buộc tích cực của hệ tối thiểu bằng

và hơn nữa tồn tại, nhiều nhất, chỉ một chỉ số sao cho

cho mọi trong đó là số các phần tử của tập hữu hạn

Ví dụ dưới đây chỉ ra rằng các điều kiện cần từ định lí 2.1 và hệ quả 2.5 có thể
hữu dụng trong một số bài toán khi mà các kết quả [16,18,21] không xảy ra.

Ví dụ 3.3 Cho

Tính các nhân tử Lagrange:

Khi đó và

gần tức là điều kiện

CRC xảy ra. Mặt khác, và

theo hệ quả 2.5, bất đẳng thức xảy ra với mọi

bất đẳng thức này không có hiệu lực. Do vậy, điểm đã cho không là một
cực tiểu. Chú ý rằng WCR và điều kiện Baccari-Trad không xảy ra ở đây. Do
đó, các điều kiện cần [16,18,21] không xuất hiện trong ví dụ này.
Phản ví dụ dưới đây chỉ ra rằng các điều kiện CRC và WCR độc lập với nhau.

Ví dụ 3.4. Cho
 Xét điểm . Dễ dàng kiểm tra rằng MFCQ và WCR không đúng tại
Tuy nhiên CRC lại không xảy ra.

Phỏng đoán([21]). Giả sử điểm là một nghiệm địa phương của bài toán
NLP , điều kiện MFCQ đúng với và

với mọi điểm

trong lân cận nào đó của Khi đó điều kiện cấp hai đúng tại
Phản ví dụ dưới dây chỉ ra rằng phỏng đoán trên là không có hiệu lực.

Ví dụ 3.5 Cho
Dễ thấy

Do đó là một nghiệm của bài toán NLP và MFCQ đúng tại và:

Cùng lúc đó, ta có:

Khi đó, và

với

4. Lưu ý
Trong mục [15,17] tác giả chứng minh được rằng CRC và RCRC là các điều
kiện chính quy cấp hai cho SSONC. Trong bài viết này, chúng tôi đã giới thiệu
khái niệm của chính quy tới hạn cho bài toán qui hoạch ơhi tuyến và chứng
minh hiệu lực của các điều kiện cần tối ưu cấp hai mạnh và yếu tại một điểm của
cực tiểu địa phương khi điều kiện chính quy tới hạn đúng với điểm đó. Kết quả
này mở rông các kết quả trong mục [15,17] gắn với các điều kiện cần cấp hai.
Hơn nữa, kết quả này cho phép chúng ta tìm được các điều kiện mới độc lập trên
[16,18,21] cho WSONC.
Lời cảm ơn
Các tài liệu tham khảo trong bài