`{(x^2+y^2-2y-6 + 2 \sqrt{2y+3} = 0 (1) ),( (x-y)(x^2+xy+y^2+3) = 3(x^2+y^2) + 2 (2) ):}` 

ĐKXĐ : `y \ge -3/2`

Phương trình `(2) <=> (x-y)(x^2+xy+y^2) + 3(x-y) = 3 (x^2+y^2)+ 2`

`<=> x^3 - y^3 + 3x - 3y = 3x^2 + 3y^2 + 2`

`<=> x^3  - y^3 + 3x - 3y - 3x^2 - 3y^2 - 2 = 0`

`<=> (x^3  - 3x^2 + 3x - 1) - (y^3 + 3y  + 3y^2 + 1) = 0`

`<=> (x-1)^3 - (y+1)^3 = 0`

`<=> [ (x-1) - (y+1)] . [ (x-1)^2 + (x-1)(y+1) + (y+1)^2] = 0`

`<=> (x-1-y-1)(x^2-2x+1+xy+x-y-1+y^2+2y+1)=0`

`<=>(x-y-2)(x^2 + y^2 - x + xy + y + 1) =0`

`<=> x - y - 2 =0` hoặc `x^2+y62-x+xy+y+1=0`

Trường hơp `1 : x - y - 2 = 0`

`<=> y = x - 2`

Thay `y = x - 2 ` vào `(1)` ta được :

`x^2 + (x- 2)^2- 2 (x-2) - 6 + 2 \sqrt{2 (x-2) + 3}=0`

`<=> x^2 + x^2 - 4x + 4 - 2x + 4 - 6 + 2 \sqrt{2x - 1} = 0`

`<=> 2x^2 - 6x + 2 + 2 \sqrt{2x-1} =0`

`<=> x^2 - 3x + 1 + \sqrt{2x-1} = 0`

`<=> \sqrt{2x-1} = 3x - x^2 - 1`

`<=> {( (3x-x^2-1)^2 = (\sqrt{2x-1})^2 ),(1/2 (3 - \sqrt{5}) \le x \le 1/2 (3 + \sqrt{5})):}`

`=>  x^4 - 6x^3 + 11x^2 - 6x + 1 = 2x-1`

`<=> x^4 - 6x^3 + 11x^2 - 8x + 2 = 0`

`<=> (x^4 - 4x^3 + 2x^2) - (2x^3 - 8x^2 + 4x)+(x^2-4x+2)=0`

`<=> x^2 (x^2 - 4x+2) - 2x (x^2-4x+2) + (x^2-4x+2)=0`

`<=> (x^2-2x+1)(x^2-4x+2) =0`

`<=> (x-1)^2 (x^2 - 4x+2) =0`

`<=> (x-1)^2 =0` hoặc `x^2-4x+2=0`

`***) (x-1)^2 = 0 <=> x-1=0<=>x=1`  (thỏa mãn đk)

Khi đó `y = x-2 <=> y = 1 - 2 =-1` (thỏa mãn đk)

`***) x^2 - 4x + 2 = 0 `

`\Delta' = (-2)^2 - 1 . 2 = 4 - 2 = 2 > 0`

`=>` Phương trình có hai nghiệm phân biệt :

`x_1 = ( - (-2) + \sqrt{2})/1 = 2 + \sqrt{2}` (không thỏa mãn đk)

`x_1 = ( - (-2) - \sqrt{2})/1=  2 - \sqrt{2}`  (thỏa mãn đk)

Với `x = 2 - \sqrt{2}` thì `y = x - 2 = 2 - \sqrt{2} - 2 = - \sqrt{2}`  (thỏa mãn)

Trường hợp `2 : x^2 + y^2 - x + xy + y + 1  = 0`

`<=> 2x^2 + 2y^2 - 2x + 2xy + 2y + 2 = 0`

`<=> (x^2 - 2x + 1) + (y^2+2y+1) + (y^2+2xy+x^2)=0`

`<=> (x-1)^2 + (y+1)^2 + (x+y)^2 = 0`

`<=> {(x-1=0),(y+1=0),(x+y=0):}`

`<=> {(x=1),(y=-1):}` (thỏa mãn đk)

Thay `x=1` và `y=-1` vào `(1)` ta được :

`1^2 + (-1)^2 - 2 . (-1) - 6 + 2 \sqrt{ 2 . (-1) + 3} = 0`  (luôn đúng)

Vậy hệ phương trình đã cho nghiệm `(x;y) \in { (1;-1) , (2 - \sqrt{2} ; \sqrt{2}) }`

Đáp án:

Giải thích các bước giải: Tham khảo

PT thứ hai tương đương:

$ x^{3} - y^{3} + 3x - 3y = 3x^{2} + 3y^{2} + 2$

$ <=> x^{3} - 3x^{2} + 3x - 1 = y^{3} + 3y^{2} + 3y + 1$

$ <=> (x - 1)^{3} = (y + 1)^{3}$

$ <=> x - 1 = y + 1 <=> x = y + 2$

Thay vào PT thứ nhất:

$ (y + 2)^{2} + y^{2} - 2y - 6 + 2\sqrt{2y + 3} = 0$

$ <=> 2y^{2} + 2y - 2 + 2\sqrt{2y + 3} = 0$

$ <=> 2(y^{2} + 2y + 1) - (2y + 3 - 2\sqrt{2y + 3} + 1) = 0$

$ <=> 2(y + 1)^{2} - (\sqrt{2y + 3} - 1)^{2} = 0$

$ <=> 2(y + 1)^{2}(\sqrt{2y + 3} + 1)^{2} - [2(y + 1)]^{2} = 0$

$ <=> 2(y + 1)^{2}[(\sqrt{2y + 3} + 1)^{2} - 2] = 0$

- TH1 $ : y + 1 = 0 => y = - 1 => x = 1$

- TH2 $ : (\sqrt{2y + 3} + 1)^{2} - 2 = 0$

$ <=> (\sqrt{2y + 3} + 1)^{2} = 2$

$ <=> \sqrt{2y + 3} + 1 = \sqrt{2}$

$ <=> \sqrt{2y + 3} = \sqrt{2} - 1$

$ <=> 2y + 3 = 3 - 2\sqrt{2} <=> y = - \sqrt{2} => x = 2 - \sqrt{2}$

KL $: (x; y) = (1; - 1); (2 - \sqrt{2}; - \sqrt{2})$