Đáp án:

`(x;y)\in {(-3;2);(1;2)}`

Giải thích các bước giải:

$(I)\begin{cases}\sqrt{x^2+2x+6}=y+1\\x^2+y^2+xy=7\end{cases}$ 

`\sqrt{x^2+2x+6}=\sqrt{(x+1)^2+5}\ge \sqrt{5}` với mọi `x\in RR`

`=> y+1\ge \sqrt{5}⇔ y\ge \sqrt{5}-1`

`(x+y)^2-(x-y)^2=x^2(2xy+y^2-(x^2-2xy+y^2)=4xy`

`=>xy={(x+y)^2-(x-y)^2}/4`

$\\$

`(I)<=>`$\begin{cases}x^2+2x+1+5=(y+1)^2\\x^2+y^2+2xy-xy=7\end{cases}$ 

`<=>`$\begin{cases}(x+1)^2-(y+1)^2+5=0\\(x+y)^2-\dfrac{(x+y)^2-(x-y)^2}{4}=7\end{cases}$

`<=>`$\begin{cases}(x+1+y+1)(x+1-y-1)+5=0\\\dfrac{3}{4}(x+y)^2+\dfrac{1}{4}(x-y)^2=7\end{cases}$

`<=>`$\begin{cases}(x+y+2)(x-y)=-5\\3(x+y)^2+(x-y)^2=28\end{cases}$

Đặt `a=x+y; b=x-y`

`=> a+b=2x; a-b=2y`

`=>x={a+b}/2; y={a-b}/2`

Hệ phương trình trở thành:

$\quad \begin{cases}(a+2)b=-5\\3a^2+b^2=28\ (1)\end{cases}$

Vì `(a+2)b=-5\ne 0=> a+2\ne 0; b\ne 0`

`=> b=-5/{a+2}`

`(1)<=> 3a^2+(-5/{a+2})^2=28`

`<=>3a^2+{25}/{a^2+4a+4}-28=0`

`<=>3a^2(a^2+4a+4)+25-28(a^2+4a+4)=0`

`<=> 3a^4 +12a^3+12a^2+25-28a^2-112a-112=0`

`<=>(3a^4+3a^3)+(9a^3+9a^2)-(25a^2+25a)-(87a+87)=0`

`<=> 3a^3 (a+1)+9a^2(a+1)-25a(a+1)-87(a+1)=0`

`<=> (a+1)(3a^3+9a^2-25a-87)=0`

`<=>(a+1)(3a^3-9a^2+18a^2-54a+29a-87)=0`

`<=>(a+1)[3a^2(a-3)+18a(a-3)+29(a-3)]=0`

`<=>(a+1)(a-3)(3a^2+18a+29)=0`

`<=>`$\left[\begin{array}{l}a+1=0\\a-3=0\\3a^2+18a+29=0\end{array}\right.$

`<=>`$\left[\begin{array}{l}a=-1\\a=3\end{array}\right.$

`3a^2+18a+29=0` vô nghiệm vì:

`\Delta=18^2-4.3.29=-24<0`

$\\$

`b=-5/{a+2};x={a+b}/2; y={a-b}/2`

+) Với `a=-1`

`=>b=-5/{-1+2}=-5`

`=>`$\begin{cases}x=\dfrac{-1+(-5)}{2}=-3\\y=\dfrac{-1-(-5)}{2}=2\end{cases}$ (thỏa mãn)

$\\$

+) Với `a=3`

`=>b=-5/{3+2}=-1`

`=>`$\begin{cases}x=\dfrac{3+(-1)}{2}=1\\y=\dfrac{3-(-1)}{2}=2\end{cases}$ (thỏa mãn)

Vậy hệ phương trình có nghiệm:

`(x;y)\in {(-3;2);(1;2)}`