Đáp án:

 a) $S = \left\{ {\left( {1;1} \right);\left( {\dfrac{{ - 1 + \sqrt 5 }}{2};\dfrac{{ - 1 + \sqrt 5 }}{2}} \right);\left( {\dfrac{{ - 1 - \sqrt 5 }}{2};\dfrac{{ - 1 - \sqrt 5 }}{2}} \right)} \right\}$

b) $S = \left\{ {\left( { - 1; - 1} \right);\left( {\dfrac{{1 + \sqrt 5 }}{2};\dfrac{{1 - \sqrt 5 }}{2}} \right);\left( {\dfrac{{1 - \sqrt 5 }}{2};\dfrac{{1 + \sqrt 5 }}{2}} \right)} \right\}$

Giải thích các bước giải:

 a) Ta có:

$\left\{ \begin{array}{l}
{x^3} + 1 = 2y\left( 1 \right)\\
{y^3} + 1 = 2x\left( 2 \right)
\end{array} \right.$

Lấy vế với vế của phương trình $(1)$ trừ đi phương trình $(2)$ ta có:

$\begin{array}{l}
\left( {{x^3} + 1} \right) - \left( {{y^3} + 1} \right) = 2y - 2x\\
 \Leftrightarrow {x^3} - {y^3} + 2x - 2y = 0\\
 \Leftrightarrow \left( {x - y} \right)\left( {{x^2} + xy + {y^2} + 2} \right) = 0\\
 \Leftrightarrow \left( {x - y} \right)\left( {{{\left( {x + \dfrac{y}{2}} \right)}^2} + \dfrac{{3{y^2}}}{4} + 2} \right) = 0\\
 \Leftrightarrow x - y = 0\left( {do:{{\left( {x + \dfrac{y}{2}} \right)}^2} + \dfrac{{3{y^2}}}{4} + 2 > 0,\forall x,y} \right)\\
 \Leftrightarrow x = y
\end{array}$

Khi đó:

Phương trình $(1)$ trở thành:

$\begin{array}{l}
{x^3} + 1 = 2x\\
 \Leftrightarrow {x^3} - 2x + 1 = 0\\
 \Leftrightarrow \left( {x - 1} \right)\left( {{x^2} + x - 1} \right) = 0\\
 \Leftrightarrow \left[ \begin{array}{l}
x = 1\\
{x^2} + x - 1 = 0
\end{array} \right.\\
 \Leftrightarrow \left[ \begin{array}{l}
x = 1\\
x = \dfrac{{ - 1 + \sqrt 5 }}{2}\\
x = \dfrac{{ - 1 - \sqrt 5 }}{2}
\end{array} \right.\\
 \Rightarrow \left[ \begin{array}{l}
x = y = 1\\
x = y = \dfrac{{ - 1 + \sqrt 5 }}{2}\\
x = y = \dfrac{{ - 1 - \sqrt 5 }}{2}
\end{array} \right.
\end{array}$

Vậy hệ có tập nghiệm là: $S = \left\{ {\left( {1;1} \right);\left( {\dfrac{{ - 1 + \sqrt 5 }}{2};\dfrac{{ - 1 + \sqrt 5 }}{2}} \right);\left( {\dfrac{{ - 1 - \sqrt 5 }}{2};\dfrac{{ - 1 - \sqrt 5 }}{2}} \right)} \right\}$

b) Ta có:

$\left\{ \begin{array}{l}
{x^2}y + 2 = {y^2}\left( 1 \right)\\
x{y^2} + 2 = {x^2}\left( 2 \right)
\end{array} \right.$

Lấy vế với vế của phương trình $(1)$ trừ đi vế với vế của phương trình $(2)$ ta được:

$\begin{array}{l}
{x^2}y + 2 - \left( {x{y^2} + 2} \right) = {y^2} - {x^2}\\
 \Leftrightarrow {x^2}y - x{y^2} + {x^2} - {y^2} = 0\\
 \Leftrightarrow \left( {x - y} \right)\left( {xy + x + y} \right) = 0\\
 \Leftrightarrow \left[ \begin{array}{l}
x = y\\
x + y + xy = 0
\end{array} \right.\\
 + )TH1:x = y
\end{array}$

Khi đó:

Phương trình $(1)$ trở thành:

$\begin{array}{l}
{x^3} + 2 = {x^2}\\
 \Leftrightarrow {x^3} - {x^2} + 2 = 0\\
 \Leftrightarrow \left( {x + 1} \right)\left( {{x^2} - 2x + 2} \right) = 0\\
 \Leftrightarrow x + 1 = 0\left( {do:{x^2} - 2x + 2 = {{\left( {x - 1} \right)}^2} + 1 > 0,\forall x} \right)\\
 \Leftrightarrow x =  - 1\\
 \Rightarrow x = y =  - 1
\end{array}$

$\to (x;y)=(-1;-1)$ là một nghiệm của hệ.

$ + )TH2:x + y + xy = 0$

Khi đó:

Phương trình $(1)$ trở thành:

$\begin{array}{l}
{x^2}y + 2 + x{y^2} + 2 = {y^2} + {x^2}\\
 \Leftrightarrow xy\left( {x + y} \right) + 4 = {x^2} + {y^2}\\
 \Leftrightarrow \left( { - x - y} \right)\left( {x + y} \right) + 4 = {x^2} + {y^2}\\
 \Leftrightarrow {x^2} + {y^2} + {\left( {x + y} \right)^2} - 4 = 0\\
 \Leftrightarrow {\left( {x + y} \right)^2} - xy - 2 = 0\\
 \Leftrightarrow {\left( {x + y} \right)^2} - \left( { - x - y} \right) - 2 = 0\\
 \Leftrightarrow {\left( {x + y} \right)^2} + \left( {x + y} \right) - 2 = 0\\
 \Leftrightarrow \left( {x + y - 1} \right)\left( {x + y + 2} \right) = 0\\
 \Leftrightarrow \left[ \begin{array}{l}
x + y = 1\\
x + y =  - 2
\end{array} \right.
\end{array}$

*) Với $x + y = 1$

$\to xy=-1$

Khi đó:

Theo ĐL Viet đảo ta có:

$x,y$ là nghiệm của phương trình $X^2-X-1=0$

$ \Leftrightarrow \left[ \begin{array}{l}
x = \dfrac{{1 + \sqrt 5 }}{2};y = \dfrac{{1 - \sqrt 5 }}{2}\\
x = \dfrac{{1 - \sqrt 5 }}{2};y = \dfrac{{1 + \sqrt 5 }}{2}
\end{array} \right.$

*) Với $x + y =  - 2$

$\to xy=2$

Khi đó:

Theo ĐL Viet đảo ta có:

$x,y$ là nghiệm của phương trình $X^2+2X+2=0$

Mà $X^2+2X+2=(X+1)^2+1>0,\forall x$

$\to $ Không tồn tại $x,y$ thỏa mãn.

Vậy hệ có tập nghiệm là: $S = \left\{ {\left( { - 1; - 1} \right);\left( {\dfrac{{1 + \sqrt 5 }}{2};\dfrac{{1 - \sqrt 5 }}{2}} \right);\left( {\dfrac{{1 - \sqrt 5 }}{2};\dfrac{{1 + \sqrt 5 }}{2}} \right)} \right\}$