Đáp án:

`a)` `m\in [-2;2]` 

`b)` `A_{max}={85}/2` khi `m=1/4`

`\qquad A_{min}=2` khi `m=-2`

Giải thích các bước giải:

 `a)` `x^2-2(m+1)x+2m^2+2m-3=0`

Phương trình có hai nghiệm `x_1;x_2`

`<=>∆\ge 0`

`<=>[-2(m+1)]^2-4.1.(2m^2+2m-3)\ge 0`

`<=>4m^2+8m+4-8m^2-8m+12\ge 0`

`<=>-4m^2\ge -16`

`<=>m^2\le 4`

`<=> -2\le m\le 2`

Vậy `m\in [-2;2]` thỏa mãn đề bài 

$\\$

`b)` Với `m\in [-2;2]`, theo hệ thức Viet ta có:

$\quad \begin{cases}x_1+x_2=2(m+1)=2m+2\\x_1x_2=2m^2+2m-3\end{cases}$

Ta có:

`A=(3x_2-2x_1)x_2+(3x_1-2x_2)x_1`

`=3x_2^2 -2x_1x_2+3x_1^2-2x_1x _2`]

`=3(x_1^2+x_2^2)-4x_1x_ 2`

`=3[(x _1+x_2)^2-2x_1x_2]-4x_1x_2`

`=3(x_1+x_2)^2-10x_1x_2`

`=3. (2m+2)^2-10. (2m^2+2m-3)`

`=3.(4m^2+8m+4)-20m^2-20m+30`

`=12m^2+24m+12-20m^2-20m+30`

`=-8m^2+4m+42`

Đặt `y=f(m)=-8m^2+4m+42` là hàm số bậc hai có `a=-8<0`

`-b/{2a}=-4/{2.(-8)}=1/4`

Hàm số đồng biến trên khoảng:

`(-∞;-b/{2a})=(-∞;1/4)`

Hàm số nghịch biến trên khoảng:

`(-b/{2a};+∞)=(-∞;1/4)`

Ta có:

`f(1/4)=-8.(1/4)^2+4. 1/4+42={85}/2`

`f(-2)=-8.(-2)^2+4.(-2)+42=2`

`f(2)=-8.2^2+4.2+42=18`

Vì `m\in [-2;2]` nên ta có bảng biến thiên hàm số `y=f(m)=-8m^2+4m+42` trên `[-2;2]`

\begin{array}{|c|ccccccccc|} \hline m&-2&&\dfrac{1}{4}&&2\\\hline &&&\dfrac{85}{2}\\y=f(m)=-8m^2+4m+42&&\nearrow&&\searrow&\\& 2&&&&18\\\hline\end{array}

Từ bảng biến thiên ta có:

+) $GTLN$ của `A` bằng `{85}/2` khi `m=1/4`

+) $GTNN$ của `A` bằng `2` khi `m=-2`