Đáp án:

$\begin{array}{l}
a)x = 5\\
 \Leftrightarrow {5^2} - 2.\left( {m - 1} \right).5 - 2m - 4 = 0\\
 \Leftrightarrow 25 - 10m + 10 - 2m - 4 = 0\\
 \Leftrightarrow  - 12m + 31 = 0\\
 \Leftrightarrow 12m = 31\\
 \Leftrightarrow m = \dfrac{{31}}{{12}}\\
 \Leftrightarrow {x_2} =  - 2\left( {m - 1} \right) - {x_1}\\
 =  - 2.\left( {\dfrac{{31}}{{12}} - 1} \right) - 5\\
 =  - \dfrac{{49}}{6}\\
b)\Delta ' > 0\\
 \Leftrightarrow {\left( {m - 1} \right)^2} - \left( { - 2m - 4} \right) > 0\\
 \Leftrightarrow {m^2} - 2m + 1 + 2m + 4 > 0\\
 \Leftrightarrow {m^2} + 5 > 0\left( {tm} \right)\\
Theo\,Viet:\left\{ \begin{array}{l}
{x_1} + {x_2} =  - 2\left( {m - 1} \right)\\
{x_1}{x_2} =  - 2m - 4
\end{array} \right.\\
A = x_1^2 + x_2^2 - 4{x_1}{x_2}\\
 = {\left( {{x_1} + {x_2}} \right)^2} - 6{x_1}{x_2}\\
 = 4{\left( {m - 1} \right)^2} - 6.\left( { - 2m - 4} \right)\\
 = 4{m^2} - 8m + 4 + 12m + 24\\
 = 4{m^2} + 4m + 28\\
 = 4.\left( {{m^2} + m + \dfrac{1}{4}} \right) + 27\\
 = 4.{\left( {m + \dfrac{1}{2}} \right)^2} + 27 \ge 27\\
 \Leftrightarrow GTNN:A = 27\,khi:m =  - \dfrac{1}{2}
\end{array}$