`\qquad x^2+2(m-2)x+m^2-3m-1=0`

$\\$

`\Delta'=(m-2)^2-(m^2-3m-1)`

`=m^2-4m+4-m^2+3m+1=-m+5`

Phương trình có hai nghiệm phân biệt `<=>\Delta'>0`

`<=>-m+5>0\qquad <=>m<5`

$\\$

Áp dụng định lý viet, ta có: $\begin{cases}x_1+x_2=-\dfrac ba=-2m+4\\x_1x_2=\dfrac ca=m^2-3m-1\end{cases}$

$\\$

Theo giả thiết:

`\qquad x_1^2-x_1x_2+x_2^2=9`

`<=>x_1^2+2x_1x_2+x_2^2-3x_1x_2=9`

`<=>(x_1+x_2)^2-3x_1x_2=9`

`<=>(-2m+4)^2-3(m^2-3m-1)=9`

`<=>4m^2-16m+16-3m^2+9m+3=9`

`<=>m^2-7m+19=9`

`<=>m^2-7m+10=0`

`<=>(m-2)(m-5)=0`

`<=>`\(\left[ \begin{array}{l}m-2=0\\m-5=0\end{array} \right.\) `<=>`\(\left[ \begin{array}{l}m=2\ (TM)\\m=5\ (KTM)\end{array} \right.\) 

$\\$

Vậy `m=2` là giá trị cần tìm

$x² + 2(m - 2)x + m² - 3m - 1 = 0$

Ta có: $Δ = 4(m - 2)² - 4(m² - 3m - 1) = 4m² - 16m + 16 - 4m² + 12m + 4 = -4m + 20$

Để PT có 2 nghiệm PB thì: $Δ > 0$

$⇔ -4m + 16 > 0$

$⇔ m < 5$

Với $m < 5$, ta có hệ thực Vi - ét: $\left \{ {{x_{1}+x_{2}=2(2 - m)} \atop {x_{1}.x_{2}=m²-3m-1}} \right.$ 

Theo đề bài, ta có:

$x_{1}² - x_{1}x_{2} + x_{2}² = 9$

$⇔ (x_{1} + x_{2})² - 3x_{1}x_{2} = 9$

$⇔ 4(2 - m)² - 3(m² - 3m - 1) - 9 = 0$

$⇔ 16 - 16m + 4m² - 3m² + 9m + 3 - 9 = 0$

$⇔ m² - 7m + 10 = 0$

$⇔ ( m - 5)(m - 2) = 0$

$⇔ \left[ \begin{array}{l}m=5(KTM)\\m=2\end{array} \right.$

Vậy $m =2$