a)

$\quad \dfrac{2\sin x + \cos x +1}{\sin x - 2\cos x +3} = m$

$\Leftrightarrow 2\sin x + \cos x + 1 = m\sin x - 2m\cos x + 3m$

$\Leftrightarrow (2-m)\sin x + (1-2m)\cos x = 3m - 1$

Phương trình có nghiệm khi và chỉ khi

$\quad (2-m)^2 + (1-2m)^2 \geqslant (3m-1)^2$

$\Leftrightarrow 2m^2 + m - 2 \leqslant 0$

$\Leftrightarrow \dfrac{-1-\sqrt{17}}{4}\leqslant m \leqslant \dfrac{-1+\sqrt{17}}{4}$

Vậy $m\in \left[\dfrac{-1-\sqrt{17}}{4};\dfrac{-1+\sqrt{17}}{4}\right]$

b)

Áp dụng định lý $\sin$ ta được:

$\quad \dfrac{a}{\sin A}=\dfrac{b}{\sin B}=\dfrac{c}{\sin C}= 2R$

$\Rightarrow \begin{cases}a = 2R\sin A\\b = 2R\sin B\\c = 2R\sin C\end{cases}$

Khi đó:

$\quad a\cos B - b\cos A = a\sin A - b\sin B$

$\Leftrightarrow 2R\sin A.\cos B - 2R\sin B.\cos A = 2R\sin^2A - 2R\sin^2B$

$\Leftrightarrow \sin A.\cos B - \sin B.\cos A = \sin^2A - \sin^2B$

$\Leftrightarrow \sin(A - B)= (\sin A -\sin B)(\sin A +\sin B)$

$\Leftrightarrow \sin(A-B)= 2\cos\dfrac{A+B}{2}\cdot \sin\dfrac{A-B}{2}\cdot 2 \sin\dfrac{A+B}{2}\cdot \cos\dfrac{A-B}{2}$

$\Leftrightarrow \sin(A-B)= \sin(A+B)\sin(A-B)$

$\Leftrightarrow \sin(A-B)[1 - \sin(A+B)]= 0$

$\Leftrightarrow \sin(A-B)(1 -\sin C)= 0$

$\Leftrightarrow \left[\begin{array}{l}\sin(A-B)= 0\\\sin C = 1\end{array}\right.$

$\Leftrightarrow \left[\begin{array}{l}A =B \\C = 90^\circ\end{array}\right.$

Vậy $\triangle ABC$ là tam giác cân hoặc vuông tại $C$