Đáp án + giải thích các bước giải:

Áp dụng bất đẳng thức Cô-si:

`3(ab+bc+ca)<=(a+b+c)^2`

`->ab+bc+ca<=(a+b+c)^2/3=6^2/3=12`

`a,b,c∈[1;3]->1<=a,b,c<=3`

`->` \begin{cases} (a-1)(b-1)(c-1)\ge0 \\ (a-3)(b-3)(c-3)\le0 \end{cases}

`->` \begin{cases} abc-1(ab+bc+ca)+1^2(a+b+c)-1^3\ge0 \\ -abc+3(ab+bc+ca)-3^2(a+b+c)+3^3\le0 \end{cases}

`->` \begin{cases} abc-(ab+bc+ca)+6-1\ge0 \\ -abc+3(ab+bc+ca)-9.6+27\le0 \end{cases}

`->` \begin{cases} abc+5\ge ab+bc+ca \\ abc+27\ge 3(ab+bc+ca) \end{cases}

`->3(ab+bc+ca)-(ab+bc+ca)>=abc+27-(abc+5)`

`->2(ab+bc+ca)>=22`

`->ab+bc+ca>=11`

Lại có:

`P=(a^2b^2+b^2c^2+c^2a^2+12abc+72)/(ab+bc+ca)-1/2abc`

`=(a^2b^2+b^2c^2+c^2a^2+2.6.abc)+72/(ab+bc+ca)-1/2abc`

`=[a^2b^2+b^2c^2+c^2a^2+2abc(a+b+c)]+72/(ab+bc+ca)-1/2abc `

`=[a^2b^2+b^2c^2+c^2a^2+2(a^2bc+ab^2c+abc^2)]+72/(ab+bc+ca)-1/2abc`

`=(ab+bc+ca)^2/(ab+bc+ca)+72/(ab+bc+ca)-1/2abc`

`=ab+bc+ca+72/(ab+bc+ca)-1/2abc`

Vì `abc+5>=ab+bc+ca`

`->ab+bc+ca-5<=abc`

`->-(ab+bc+ca-5)/2>=-1/2abc`

`->P>=Q=ab+bc+ca+72/(ab+bc+ca)-(ab+bc+ca-5)/2`

Vì `ab+bc+ca>=11`, ta dự đoán `P` sẽ đạt giá trị lớn nhất nếu đẳng thức xảy ra, khi đó `P` có giá trị là:

`11+71/11-(11-5)/2=160/11`

Từ đó ta xét hiệu `Q-160/11 `

`=ab+bc+ca+72/(ab+bc+ca)-(ab+bc+ca-5)/2-160/11`

Đặt `ab+bc+ca=x (11<=x<=12)`

`->Q-160/11= x+72/x-(x-5)/2-160/11`

`=(22x^2+1584-11x(x-5)-320x)/(22x)`

`=(11x^2-265x+1584)/(22x)`

`=(11x^2-121x-144x+1584)/(22x)`

`=(11x(x-11)-144(x-11))/(22x)`

`=((11x-144)(x-11))/(22x)`

Vì `11<=x<=12`

`->`\begin{cases} 11x-144<0\\ x-11\ge0 \\ 22x>0 \end{cases}

`->((11x-144)(x-11))/(22x)<=0`

`->Q-160/11<=0`

`->Q<=160/11`

Dấu bằng xảy ra khi và chỉ khi:

\begin{cases} (a-1)(b-1)(c-1)=0 \\ (a-3)(b-3)(c-3)=0 \\ ab+bc+ca=11\\ a+b+c=6 \end{cases} `->` \begin{cases} \left[\begin{array}{l} a=1\\ b=1 \\ c=1 \end{array}\right. \\ \left[\begin{array}{l} a=3 \\ b=3 \\ c=3 \end{array}\right. \\ab+ba+ca=11\\a+b+c=6\end{cases}

`->` Trong ba số `a,b,c` khác nhau, mỗi số nhận `1` giá trị trong ba số `1,2,3` thì `P` đạt giá trị lớn nhất là `160/11`

Đáp án:

Tách:

@ $\sum a^2b^2=a^2b^2+b^2c^2+c^2a^2$

@ $\sum ab=ab+bc+ca$

$→ F=\dfrac{\sum a^2b^2+12abc+72}{\sum ab}-\dfrac{1}{2}abc=\dfrac{a^2b^2+b^2c^2+c^2a^2+12abc+72}{ab+bc+ca}-\dfrac{1}{2}abc$

Ta có: $(a+b+c)^2=\dfrac{1}{2}[(a-b)^2+(b-c)^2+(c-a)^2]+3(ab+bc+ca)≥3(ab+bc+ca)$

$→ ab+bc+ca≤12$ (1)

Mặt khác: 

$\begin{cases} (a-1)(b-1)(c-1)≥0 \\ (3-a)(3-b)(3-c)≥0 \end{cases}$

$→ \begin{cases}abc≥(ab+bc+ca)-5\\3(ab+bc+ca)≥abc+27\end{cases}$

$→ ab+bc+ca≥11$ (2)

Từ (1) và (2) $→ 11≤ab+bc+ca≤12$

Trong khi đó:

$F=\dfrac{a^2b^2+b^2c^2+c^2a^2+12abc+72}{ab+bc+ca}-\dfrac{1}{2}abc$

$=\dfrac{(ab+bc+ca)^2+72}{ab+bc+ca}-\dfrac{abc}{2}≤\dfrac{(ab+bc+ca)^2+72}{ab+bc+ca}-\dfrac{(ab+bc+ca)-5}{2}$

Gọi $x=ab+bc+ca$ ta có: 

$\dfrac{(ab+bc+ca)^2+72}{ab+bc+ca}-\dfrac{(ab+bc+ca)-5}{2}=\dfrac{x^2+5x+144}{2x}$

Đặt $f(x)=\dfrac{x^2+5x+144}{2x}$

Xét $f'(x)=\dfrac{x^2-144}{2x} ≤ 0\ ∀x\in [11;12]$

$→ f'(x)$ nghịch biến trên đoạn $[11;12]$

$→f(x)≤f(11)=\dfrac{160}{11} → P≤\dfrac{160}{11}$

Dấu bằng xảy ra khi và chỉ khi:  $\begin{cases} \left[\begin{array}{l} a=1\\ b=1 \\ c=1 \end{array}\right. \\ \left[\begin{array}{l} a=3 \\ b=3 \\ c=3 \end{array}\right. \\ab+ba+ca=11\\a+b+c=6\end{cases}$

$→(a,b,c)=(1,2,3) ↔\left[\begin{array}{l} \begin{cases} a=1\\ b=2 \\ c=3\end{cases} \\ \begin{cases} a=1 \\ b=3 \\ c=2 \end{cases}\\\begin{cases} a=2 \\ b=1 \\ c=3 \end{cases}\\\begin{cases} a=3 \\ b=1 \\ c=2 \end{cases}\end{array}\right.$ thì thỏa mãn điều kiện của bài toán

Vậy $P_{\max}= \dfrac{160}{11}$