Đáp án:

\(\begin{array}{l}
a)\quad S = \left\{(-2;-1),(2;1);\left(-\dfrac{11\sqrt{14}}{14};\dfrac{\sqrt{14}}{14}\right),\left(\dfrac{11\sqrt{14}}{14};-\dfrac{\sqrt{14}}{14}\right) \right\}\\
c)\quad S = \varnothing\\
e)\quad S = \left\{(-1;-3),(1;3),\left(-\dfrac{8\sqrt{14}}{7};-\dfrac{20\sqrt{14}}{7}\right),\left(\dfrac{8\sqrt{14}}{7};\dfrac{20\sqrt{14}}{7}\right)\right\}
\end{array}\) 

Giải thích các bước giải:

\(\begin{array}{l}
a)\quad \begin{cases}2x^2 + 3xy +y^2 = 15\\x^2 + xy + 2y^2 = 8\end{cases}\\
\Leftrightarrow \begin{cases}16x^2 + 24xy + 8y^2 = 120\\15x^2 + 15xy + 30y^2 = 120\end{cases}\\
\text{Trừ vế theo vế pt(1) cho pt(2) ta được:}\\
\quad x^2 +9xy - 22y^2 = 0\qquad (*)\\
\circledast\quad y = 0 \Rightarrow x = 0\quad \text{(không thỏa (1),(2))}\\
\Rightarrow (x;y) = (0;0)\ \text{không là nghiệm của hệ phương trình}\\
\circledast\quad \text{Chia hai vế của $(*)$ cho $y^2$ ta được:}\\
\quad \left(\dfrac xy\right)^2 + 9\cdot\dfrac xy - 22 = 0\\
\Leftrightarrow \left[\begin{array}{l}\dfrac xy = 2\\\dfrac xy = -11\end{array}\right.\\
\bullet\quad \dfrac xy = 2\Leftrightarrow x = 2y\\
\text{Thay vào hệ phương trình ta được:}\\
 y^2 = 1\Leftrightarrow y = \pm 1 \Rightarrow x = \pm 2\\
\bullet\quad \dfrac xy = -11\Leftrightarrow x = -11y\\
\text{Thay vào hệ phương trình ta được:}\\
 y^2 = \dfrac{1}{14}\Leftrightarrow y = \pm \dfrac{\sqrt{14}}{14} \Rightarrow x = \mp \dfrac{11\sqrt{14}}{14}\\
\text{Vậy hệ phương trình có tập nghiệm}\\
S = \left\{(-2;-1),(2;1);\left(-\dfrac{11\sqrt{14}}{14};\dfrac{\sqrt{14}}{14}\right),\left(\dfrac{11\sqrt{14}}{14};-\dfrac{\sqrt{14}}{14}\right) \right\}\\
c)\quad \begin{cases}56x^2 - xy - y^2 = 0\\14x^2 + 19xy - 3y^2 = 8\end{cases}\\
\text{Xét}\ y = 0 \Rightarrow \begin{cases}x^2 = 0\\14x^2 = 8\end{cases}\ (vn)\\
\text{Với}\ y \ne 0\\
\text{Chia hai vế của pt(1) cho $y^2$ ta được:}\\
\quad 56\left(\dfrac xy\right)^2 -56\left(\dfrac xy\right)^2 - 1 =0\\
\Leftrightarrow \left[\begin{array}{l}\dfrac xy = -\dfrac18\\\dfrac xy = \dfrac17\end{array}\right.\\
\bullet\quad \dfrac xy = -\dfrac18\Leftrightarrow y =-8x\\
\text{Thay vào pt(2) ta được:}\\
-330x^2= 8\quad (vn)\\
\bullet\quad \dfrac xy = \dfrac17\Leftrightarrow y = 7x\\
\text{Thay vào pt(2) ta được:}\\
0y^2 = 8\quad (vn)\\
\text{Vậy hệ phương trình đã cho vô nghiệm}\\
e)\quad \begin{cases}15x^2 + xy - 2y^2 = 0\\7x^2 -4xy - 3y^2 = -32\end{cases}\\
\text{Xét}\ y = 0 \Rightarrow \begin{cases}x^2 = 0\\7x^2 = -32\end{cases}\ (vn)\\
\text{Với}\ y \ne 0\\
\text{Chia hai vế của pt(1) cho $y^2$ ta được:}\\
\quad 15\left(\dfrac xy\right)^2 +\left(\dfrac xy\right)^2 - 2 =0\\
\Leftrightarrow \left[\begin{array}{l}\dfrac xy = \dfrac13\\\dfrac xy = -\dfrac25\end{array}\right.\\
\bullet\quad \dfrac xy = \dfrac13\Leftrightarrow y =3x\\
\text{Thay vào pt(2) ta được:}\\
x^2 = 1 \Leftrightarrow x=\pm 1\Rightarrow y = \pm 3\\
\bullet\quad \dfrac xy = -\dfrac25\Leftrightarrow x = -\dfrac25y\\
\text{Thay vào pt(2) ta được:}\\
\dfrac{7}{25}y^2 = 32\\
\Leftrightarrow y = \pm \dfrac{20\sqrt{14}}{7}\Rightarrow x =\pm \dfrac{8\sqrt{14}}{7}\\
\text{Vậy hệ phương trình có tập nghiệm}\\
S = \left\{(-1;-3),(1;3),\left(-\dfrac{8\sqrt{14}}{7};-\dfrac{20\sqrt{14}}{7}\right),\left(\dfrac{8\sqrt{14}}{7};\dfrac{20\sqrt{14}}{7}\right)\right\}
\end{array}\)