Đáp án:

Áp dụng bất đẳng thức Cô-si:

`3(ab+bc+ca)<=(a+b+c)^2`

`->ab+bc+ca<=(a+b+c)^2/3=6^2/3=12`

`a,b,c∈[1;3]->1<=a,b,c<=3`

`->` \begin{cases} (a-1)(b-1)(c-1)\ge0 \\ (a-3)(b-3)(c-3)\le0 \end{cases}

`->` \begin{cases} abc-1(ab+bc+ca)+1^2(a+b+c)-1^3\ge0 \\ -abc+3(ab+bc+ca)-3^2(a+b+c)+3^3\le0 \end{cases}

`->` \begin{cases} abc-(ab+bc+ca)+6-1\ge0 \\ -abc+3(ab+bc+ca)-9.6+27\le0 \end{cases}

`->` \begin{cases} abc+5\ge ab+bc+ca \\ abc+27\ge 3(ab+bc+ca) \end{cases}

`->3(ab+bc+ca)-(ab+bc+ca)>=abc+27-(abc+5)`

`->2(ab+bc+ca)>=22`

`->ab+bc+ca>=11`

Lại có:

`P=(a^2b^2+b^2c^2+c^2a^2+12abc+72)/(ab+bc+ca)-1/2abc`

`=(a^2b^2+b^2c^2+c^2a^2+2.6.abc)+72/(ab+bc+ca)-1/2abc`

`=[a^2b^2+b^2c^2+c^2a^2+2abc(a+b+c)]+72/(ab+bc+ca)-1/2abc `

`=[a^2b^2+b^2c^2+c^2a^2+2(a^2bc+ab^2c+abc^2)]+72/(ab+bc+ca)-1/2abc`

`=(ab+bc+ca)^2/(ab+bc+ca)+72/(ab+bc+ca)-1/2abc`

`=ab+bc+ca+72/(ab+bc+ca)-1/2abc`

Vì `abc+5>=ab+bc+ca`

`->ab+bc+ca-5<=abc`

`->-(ab+bc+ca-5)/2>=-1/2abc`

`->P>=Q=ab+bc+ca+72/(ab+bc+ca)-(ab+bc+ca-5)/2`

Vì `ab+bc+ca>=11`, ta dự đoán `P` sẽ đạt giá trị lớn nhất nếu đẳng thức xảy ra, khi đó `P` có giá trị là:

`11+71/11-(11-5)/2=160/11`

Từ đó ta xét hiệu `Q-160/11 `

`=ab+bc+ca+72/(ab+bc+ca)-(ab+bc+ca-5)/2-160/11`

Đặt `ab+bc+ca=x (11<=x<=12)`

`->Q-160/11= x+72/x-(x-5)/2-160/11`

`=(22x^2+1584-11x(x-5)-320x)/(22x)`

`=(11x^2-265x+1584)/(22x)`

`=(11x^2-121x-144x+1584)/(22x)`

`=(11x(x-11)-144(x-11))/(22x)`

`=((11x-144)(x-11))/(22x)`

Vì `11<=x<=12`

`->`\begin{cases} 11x-144<0\\ x-11\ge0 \\ 22x>0 \end{cases}

`->((11x-144)(x-11))/(22x)<=0`

`->Q-160/11<=0`

`->Q<=160/11`

Dấu bằng xảy ra khi và chỉ khi:

\begin{cases} (a-1)(b-1)(c-1)=0 \\ (a-3)(b-3)(c-3)=0 \\ ab+bc+ca=11\\ a+b+c=6 \end{cases} `->` \begin{cases} \left[\begin{array}{l} a=1\\ b=1 \\ c=1 \end{array}\right. \\ \left[\begin{array}{l} a=3 \\ b=3 \\ c=3 \end{array}\right. \\ab+ba+ca=11\\a+b+c=6\end{cases}

`->` Trong ba số `a,b,c` khác nhau, mỗi số nhận `1` giá trị trong ba số `1,2,3` thì `P` đạt giá trị lớn nhất là `160/11`

Giải thích các bước giải:

1/ Khi các biến bị chặn trên một khoảng, đoạn `m<=a,b,c<=n` thì ta cần chú ý các cách đánh giá để chặn biến như sau:

+) Nếu cần đánh giá `a^2,b^2,c^2` theo `a,b,c` thì ta dùng: 

`(a-m)(a-n)<=0->a^2<=(m+n)a-mn`

+) Nếu cần đánh giá để tạo ra `ab` ta dùng: 

\begin{cases} (a-n)(b-n)\ge0 \\ (a-m)(b-m)\ge0 \end{cases} `->` \begin{cases} ab\ge n(a+b)-n^2 \\ ab\ge m(a+b)-m^2 \end{cases}

+) Nếu cần đánh giá đồng thời cả ba biến ta dùng:

\begin{cases} (a-m)(b-m)(c-m)\ge0 \\ (a-n)(b-n)(c-n)\le0 \end{cases} `->` \begin{cases} abc-m(ab+bc+ca)+m^2(a+b+c)-m^3\ge0 \\ -abc+n(ab+bc+ca)-n^2(a+b+c)+n^3\ge0 \end{cases}

Trong khi chứng minh nếu phát sinh điều kiện của một biến thì ta có thể quay lại để chặn biến nhằm tạo ra điều kiện.

2/ Phương pháp xét hiệu khi dự đoán được điểm rơi thường được thấy khi biến cần đánh giá nằm ở trên tử và dưới mẫu như `a+b/a`