Ta xét ptrinh đầu

$3x + 3y + 5x - 5y = 12$

$<-> 8x -2y = 12$

$<-> 4x - y = 6$

$<-> y = 4x-6$

Thế vào ptrinh dưới ta có

$-5x(x + 4x - 6) + 2x - 2(4x -6) = 11$

$<-> -25x^2 + 30x + 2x - 8x + 12 = 11$

$<-> -25x^2 +24x + 1 = 0$

$<-> (x-1)(-25x -1) = 0$

Vậy $x = 1$ hoặc $ x = -\dfrac{1}{25}$

Thế vào ptrinh trên ta suy ra $y = -2$ hoặc $y = -\dfrac{154}{25}$

Vậy $S = \left\{ \left(-\dfrac{1}{25}, -\dfrac{154}{25} \right) , (1, -2) \right\}$.

$\begin{cases}3(x+y)+5(x-y)=12\\-5x(x+y)+2(x-y)=11\end{cases}$

$⇔ \begin{cases}8x-2y=12\\-5x(x+y)+2(x-y)=11\end{cases}$

$⇔ \begin{cases}4x-y=6\\-5x(x+y)+2(x-y)=11\end{cases}$

$⇔ \begin{cases}y=4x-6\\-5x(x+y)+2(x-y)=11\end{cases}$

Ta thế vào phương trình sau ta có:

$−5x(x+4x−6)+2x−2(4x−6)=11$

$⇔ −25x^2+30x+2x−8x+12=11$

$⇔ −25x^2+24x+1=0$

$⇔ (x−1)(−25x−1)=0$

$⇔$ \(\left[ \begin{array}{l}x=1\\x=-\dfrac{1}{25}\end{array} \right.\) 

Thế vào phương trình đầu ta có:

\(\left[ \begin{array}{l}y=-2\\y=-\dfrac{154}{25}\end{array} \right.\)

Vậy $S=\left\{ \left(-\dfrac{1}{25}, -\dfrac{154}{25} \right) , (1, -2) \right\}$.