Đáp án:

a) \(\left\{ \begin{array}{l}
x = 5\\
y =  - 14
\end{array} \right.\)

b) Với m=2 phương trình có vô số nghiệm

Với m=-2 phương trình vô nghiệm

Giải thích các bước giải:

\(\begin{array}{l}
a)\left\{ \begin{array}{l}
mx + y = 1\\
4x + my = 2
\end{array} \right.\\
 \to \left\{ \begin{array}{l}
{m^2}x + my = m\\
4x + my = 2
\end{array} \right.\\
 \to \left\{ \begin{array}{l}
\left( {{m^2} - 4} \right)x = m - 2\\
y = 1 - mx
\end{array} \right.\\
 \to \left\{ \begin{array}{l}
\left( {m - 2} \right)\left( {m + 2} \right)x = m - 2\\
y = 1 - mx
\end{array} \right.\\
a)Thay:m = 3\\
Hpt \to \left\{ \begin{array}{l}
x = \dfrac{{\left( {3 - 2} \right)\left( {3 + 2} \right)}}{{3 - 2}} = 5\\
y = 1 - 5.3
\end{array} \right.\\
 \to \left\{ \begin{array}{l}
x = 5\\
y =  - 14
\end{array} \right.\\
b)\left\{ \begin{array}{l}
\left( {m - 2} \right)\left( {m + 2} \right)x = m - 2\\
y = 1 - mx
\end{array} \right.
\end{array}\)

Để phương trình có nghiệm duy nhất

\(\begin{array}{l}
 \Leftrightarrow \left( {m - 2} \right)\left( {m + 2} \right) \ne 0\\
 \to m \ne  \pm 2\\
 \to \left\{ \begin{array}{l}
x = \dfrac{1}{{m + 2}}\\
y = 1 - m.\dfrac{1}{{m + 2}}
\end{array} \right.\\
 \to \left\{ \begin{array}{l}
x = \dfrac{1}{{m + 2}}\\
y = \dfrac{{m + 2 - m}}{{m + 2}} = \dfrac{2}{{m + 2}}
\end{array} \right.
\end{array}\)

Để phương trình vô số nghiệm

\(\begin{array}{l}
 \Leftrightarrow m - 2 = 0\\
 \to m = 2\\
Hpt \to \left\{ \begin{array}{l}
0x = 0\left( {ld} \right)\\
y = 1 - mx
\end{array} \right.
\end{array}\)

⇒ Với m=2 phương trình có vô số nghiệm

Để phương trình vô nghiệm

\(\begin{array}{l}
 \Leftrightarrow m + 2 = 0\\
 \to m =  - 2\\
Hpt \to \left\{ \begin{array}{l}
0x =  - 4\left( {KTM} \right)\\
y = 1 - mx
\end{array} \right.
\end{array}\)

⇒ Với m=-2 phương trình vô nghiệm