Về mặt hình học, một tập hợp được gọi là Convex (Lồi) nếu bạn lấy bất kỳ hai điểm nào nằm trong tập hợp đó, đoạn thẳng nối chúng cũng phải nằm hoàn toàn bên trong tập hợp đó.
Tại sao ta cần định nghĩa này? Bởi vì nó đại diện cho sự “không có lỗ hổng” và “không có điểm lõm”
Trước tiên, hãy thử xem một bài toán nhỏ hơn khác như sau
Cho một số thực [latex]\lambda[/latex] sao cho [latex]0 \le \lambda \le 1[/latex] và hai điểm [latex]x = 2, y = 7[/latex]

Khi đó mọi điểm trên đoạn thẳng nối [latex]x[/latex] và [latex]y[/latex] có dạng
[latex]z=(1−λ)x+λy.[/latex]
Nếu [latex]\lambda[/latex] gần 0 hơn, thì nó sẽ ở gần bên x hơn, và ngược lại nếu gần 1 hơn, thì điểm đó sẽ gần y hơn

Tiếp theo, cho một hàm số có hình dạng như sau, với hai điểm [latex]x[/latex] và [latex]y[/latex], ta nối và thể hiện vị trí của [latex]f(x)[/latex] và [latex]f(y)[/latex]

Đặt hai điểm [latex]A[/latex] và [latex]B[/latex] có toạ độ [latex](x,f(x))[/latex], [latex](y,f(y))[/latex]

Lúc này thực hiện nối 2 điểm [latex]A[/latex] và [latex]B[/latex]

Như vừa nói qua việc
Khi đó mọi điểm trên đoạn thẳng nối [latex]x[/latex] và [latex]y[/latex] có dạng
[latex]z=(1−λ)x+λy.[/latex]
Ta nhận thấy, lúc này với đoạn thẳng nối từ [latex]A[/latex] tới [latex]B[/latex], từ phần vừa suy ra ở trên, ta có thể biểu diễn độ cao các điểm nằm trên đoạn thẳng này như sau
[latex]z=(1−λ)f(x)+λf(y)[/latex]
Như vậy với [latex]λ=0[/latex], thì độ cao của điểm chính bằng f(x) hay điểm A, và nếu [latex]λ=1[/latex], thì độ cao của điểm chính bằng f(y) hay điểm B, giá trị sẽ giảm dần từ A -> B theo phương trình

Lúc này lấy một điểm [latex]T[/latex] và số [latex]z[/latex], ta có, z nằm trên đoạn thẳng nối từ [latex]x[/latex] tới [latex]y[/latex], vậy z có thể biểu diễn bằng
[latex]z=(1−λ)x+λy[/latex]
cũng như

[latex]f(z)=f((1−λ)x+λy)[/latex]
Ta thấy, độ cao [latex]f(z)[/latex] nằm ở dưới độ cao điểm [latex]T[/latex]
Hay
Lúc này, ta đến với định nghĩa hàm lồi được phát biểu như sau
Định nghĩa hàm lồi (Convex function)
Một hàm số [latex]f(x)[/latex] được gọi là hàm lồi nếu bạn lấy 2 điểm bất kỳ trên đồ thị, nối chúng lại bằng một đoạn thẳng (dây cung), thì đoạn thẳng đó luôn nằm phía trên hoặc trùng với phần đường cong của đồ thị nằm giữa hai điểm đó.
Công thức toán học (Đại số):
(Với [latex]\lambda[/latex] nằm trong khoảng [latex][0, 1][/latex]).
- Hình dáng: Giống cái cốc ([latex]\cup[/latex]) hoặc cái bát.
- Ngược lại: Nếu đoạn thẳng nằm dưới, ta có hàm lõm (concave), hình cái mũ ([latex]\cap[/latex]).
Ý nghĩa

Nếu một đồ thị có 2 cái đáy (2 cực tiểu), thì bắt buộc ở giữa 2 cái đáy đó phải có một cái đỉnh đồi (cực đại) nhô lên ngăn cách chúng. -> Đồ thị sẽ lượn xuống, rồi lượn lên (tạo đỉnh), rồi lại lượn xuống.
Hãy tập trung vào cái đỉnh đồi nằm giữa đó.
- Chọn một điểm [latex]A[/latex] nằm bên sườn trái của ngọn đồi.
- Chọn một điểm [latex]B[/latex] nằm bên sườn phải của ngọn đồi.
- Nối dây từ [latex]A[/latex] và [latex]B[/latex]

Theo thực tế hình vẽ: Vì [latex]A[/latex] và [latex]B[/latex] nằm ở hai bên sườn dốc, còn đỉnh đồi nhô lên ở giữa, nên sợi dây [latex]AB[/latex] sẽ đâm xuyên qua quả đồi. Phần đỉnh đồi sẽ nằm cao hơn sợi dây [latex]AB[/latex]
Theo định nghĩa hàm lồi: Định nghĩa bắt buộc sợi dây [latex]AB[/latex] phải luôn nằm cao hơn hoặc bằng mọi điểm của đồ thị ở giữa [latex]A[/latex] và [latex]B[/latex]
Vì sự tồn tại của một “đỉnh đồi” (ngăn cách 2 cái đáy) vi phạm định nghĩa “sợi dây nằm trên”, nên:
- Hàm lồi tuyệt đối không được phép có đỉnh đồi nào (không có cực đại địa phương).
- Nếu không có đỉnh đồi nào ngăn cách, thì không thể có 2 cái đáy riêng biệt.
- Hệ quả: Nó chỉ có thể đi xuống rồi đi lên duy nhất 1 lần (hình chữ U hoặc V). [latex]\rightarrow[/latex] Chỉ có 1 đáy duy nhất.
Khi bạn muốn tìm giải pháp tốt nhất (chi phí thấp nhất, lợi nhuận cao nhất, sai số nhỏ nhất), bạn đang đi tìm “đáy” của một đồ thị. Với các hàm bình thường (không lồi), đồ thị giống như một dãy núi nhấp nhô. Bạn có thể leo xuống một thung lũng (cực tiểu địa phương – Local Minimum) và tưởng đó là nơi thấp nhất, nhưng thực ra bên cạnh còn có một cái hực sâu hơn (Global Minimum) mà bạn không thấy vì bị ngọn núi che khuất.
