Đáp án + giải thích các bước giải:

Cách 1: 

Ta có: `(a+3)/(a+1)^2+(b+3)/(b+1)^2+(c+3)/(c+1)^2`

`=1/(a+1)+1/(b+1)+1/(c+1)+2[1/(a+1)^2+1/(b+1)^2+1/(c+1)^2]`

Đặt `a=(yz)/x^2;b=(xz)/y^2;c=(xy)/z^2`, ta có:

`1/(a+1)^2+1/(b+1)^2+1/(c+1)^2`

`=x^4/(x^2+yz)^2+y^4/(y^2+zx)^2+z^4/(z^2+xy)^2`

`>=x^4/((x^2+y^2)(x^2+z^2))+y^4/((y^2+z^2)(y^2+x^2))+z^4/((z^2+x^2)(z^2+y^2))`

`=(x^4(y^2+z^2)+y^4(x^2+z^2)+z^4(x^2+y^2))/((x^2+y^2)(y^2+z^2)(z^2+x^2))`

`=1-2(xyz)^2/((x^2+y^2)(y^2+z^2)(z^2+x^2))`

`>=1-2(xyz)^2/((x^2+yz)(y^2+xz)(z^2+xy))`

`=1-2/((a+1)(b+1)(c+1))`

`->1/(a+1)+1/(b+1)+1/(c+1)+2/(a+1)^2+2/(b+1)^2+2/(c+1)^2>=2-4/((a+1)(b+1)(c+1))+1/(a+1)+1/(b+1)+1/(c+1)`

`=3 +((a+1)(b+1)+(b+1)(c+1)+(c+1)(a+1)-4-(a+1)(b+1)(c+1))/((a+1)(b+1)(c+1))`

`=3+(a+b+c-3)/((a+1)(b+1)(c+1))`

`>=3+(3\sqrt{abc}-3)/((a+1)(b+1)(c+1))`

`=3`

Dấu bằng xảy ra khi `a=b=c=1`

Cách 2:

Ta sẽ chứng minh được `1/(x+1)^2+1/(y+1)^2>=1/(1+xy)` vì nó tương đương `(xy-1)^2+xy(x-y)^2>=0`

Ta có: `(a+3)/(a+1)^2+(b+3)/(b+1)^2+(c+3)/(c+1)^2`

`=1/(a+1)+1/(b+1)+1/(c+1)+2[1/(a+1)^2+1/(b+1)^2+1/(c+1)^2]`

`>=1/(a+1)+1/(b+1)+1/(c+1)+1/(1+ab)+1/(1+bc)+1/(1+ca)`

`>=(bc)/(1+bc)+1/(1+bc)+(ca)/(1+ca)+1/(1+ca)+(ab)/(1+ab)+1/(1+ab)`

`=3`

Dấu bằng xảy ra khi `a=b=c=1`

Cách 3: không dành cho lớp 9 nhưng mình đọc được một lời giải của bài này và nhớ mình đã gặp phương pháp này rồi

Sử dụng bất đẳng thức sau:

Với `x,y,z>0,xyz=1,m\in R` thì ta luôn có `1/(x^(2m)+x^m+1)+1/(y^(2m)+y^m+1)+1/(z^(2m)+z^m+1)>=1`

Chứng minh như sau: 

Đặt `x^m=(bc)/a^2;y^m=(ca)/b^2;z^m=(ab)/c^2`, bài toán trở thành:

`a^4/(a^4+a^2bc+b^2c^2)+b^4/(b^4+b^2ac+a^2c^2)+c^4/(c^4+c^2ab+a^2b^2)>=1`

Áp dụng bất đẳng thức cộng mẫu:

`a^4/(a^4+a^2bc+b^2c^2)+b^4/(b^4+b^2ac+a^2c^2)+c^4/(c^4+c^2ab+a^2b^2)`

`>=(a^2+b^2+c^2)^2/(a^4+b^4+b^4+abc(a+b+c)+a^2b^2+b^2c^2+c^2a^2)`

Áp dụng bất đẳng thức `abc(a+b+c)<=a^2b^2+b^2c^2+c^2a^2`:

`(a^2+b^2+c^2)^2/(a^4+b^4+b^4+abc(a+b+c)+a^2b^2+b^2c^2+c^2a^2)`

`>=(a^2+b^2+c^2)^2/(a^4+b^4+c^4+2(a^2b^2+b^2c^2+c^2a^2))`

`=(a^2+b^2+c^2)^2/(a^2+b^2+c^2)^2`

`=1 (đpcm) `

Dấu bằng xảy ra khi `x=y=z=1`

Quay lại bài toán, ta cần thức hiện bước trung gian như sau:

`(a+3)/(a+1)^2+(b+3)/(b+1)^2+(c+3)/(c+1)^2>=1/(a^(2m)+a^m+1)+1/(b^(2m)+b^m+1)+1/(c^(2m)+c^m+1)`

Ta sẽ chọn `k` và `m` sao cho:

`(a+3)/(a+1)^2-1+k/3-k/(a^(2m)+a^m+1)>=0`

Giờ ta cần tìm `m` và `k` sao cho biểu thức đạt cực trị tại `a=1` (việc tìm `m` và `k` để biểu thức đạt giá trị nhỏ nhất luôn là quá khó)

`((a+3)/(a+1)^2-1+k/3-k/(a^(2m)+a^m+1))_(a=1)^'=0`

`->-3/4=(-mk)/3`

`->m=9/(4k)`

Vậy cần chọn `k>0` sao cho `(a+3)/(a+1)^2-1+k/3>=k/(a^(9/(2k))+a^(9/(4k))+1)`

Cho `a->+\infty` ta cần có: `-1+k/3>=0->k>=3`

Cho `a->0^+` ta cần có: `-1+3+k/3>=k->k<=3`

Vậy ta có thể đoán được `k=3`

Ta cần chứng minh:

`(a+3)/(a+1)^2-1+3/3>=3/(a^(3/2)+a^(3/4)+1)`

Đặt `a^(1/4)=x`, ta cần chứng minh:

`(x^4+3)/(x^4+1)^2>=3/(x^6+x^3+1)`

`->(x^4+3)(x^6+x^3+1)-3(x^4+1)>=0`

`->(x-1)(x^9+x^8+x^7+2x^6+5x^5+5x^4+3x^3)>=0` (luôn đúng)

Tương tự ta sẽ có: 

`(a+3)/(a+1)^2+(b+3)/(b+1)^2+(c+3)/(c+1)^2`

`>=3/(x^6+x^3+1)+3/(y^6+y^3+1)+3/(z^6+z^3+1)`

`>=3.1=3`

Dấu bằng xảy ra khi `a=b=c=1`