Đáp án:

$m\in \left\{-2-\sqrt3;-2+\sqrt3\right\}$ 

Giải thích các bước giải:

$(P): y = x^2 - 4x + 3$

$d: y = mx + m + 8$

$I(1;4)$

Phương trình hoành độ giao điểm giữa $d$ và $(P):$

$\quad x^2 - 4x + 3 = mx + m + 8$

$\Leftrightarrow x^2 - (m+4)x - m - 5 =0$

$\Leftrightarrow (x+1)(x - m - 5) = 0$

$\Leftrightarrow \left[\begin{array}{l}x = -1\\x = m + 5\end{array}\right.$

$d$ cắt $(P)$ tại hai điểm phân biệt $A, B\Leftrightarrow m + 5 \ne - 1 \Leftrightarrow m \ne -6$

Khi đó:

$A(-1;8);\ B(m + 5;m^2 +6m + 8)$

$\Rightarrow \begin{cases}\overrightarrow{IA} = (-2;4)\\\overrightarrow{IB} = (m+4;m^2 +6m + 4)\end{cases}$

$\Rightarrow \begin{cases}IA = 2\sqrt5\\IB = \sqrt{m^4 +12m^3 + 45m^2 + 56m + 32}\end{cases}$

$\triangle IAB$ cân tại $I$

$\Leftrightarrow \begin{cases}IA = IB\\x_I \ne \dfrac{x_A + x_B}{2}\\y_I \ne \dfrac{y_A + y_B}{2}\end{cases}$

$\Leftrightarrow \begin{cases}2\sqrt5 = \sqrt{m^4 +12m^3 + 45m^2 + 56m + 32}\\\dfrac{m+4}{2} \ne 1\\\dfrac{m^2 +6m + 16}{2}\ne 4\end{cases}$

$\Leftrightarrow \begin{cases}m^4 +12m^3 + 45m^2 + 56m +12 = 0\\m\ne -2\\m \ne -4\end{cases}$

$\Leftrightarrow \begin{cases}(m+2)(m+6)(m^2 + 4m + 1) =0\\m\ne -2\\m \ne -4\end{cases}$

$\Leftrightarrow \left[\begin{array}{l}m=  -2 \kern35pt (l)\\m =- 6\kern35pt (l)\\m = -2 -\sqrt3\quad (n)\\m = -2 +\sqrt3\quad (n)\end{array}\right.$

Vậy $m\in \left\{-2-\sqrt3;-2+\sqrt3\right\}$

Phương trình hoành độ giao điểm `(P)` và  `(d)`:

`y= x^2 - 4x + 3 = mx + m + 8`

`\Leftrightarrow  x^2 - (m+4)x - m - 5 =0 (**)`

Để `(P)` cắt `(d)` tại hai điểm `A, B` phân biệt thì 

`\Delta = [-(m-4)]^2  4.(m+5) > 0`

`\Leftrightarrow  (x+2)^2  >0  -> m \ne -2 `

Phương trình  `(**)` tương đương:

`x^2 - (m+4)x - m - 5 =0 (**)`

`\Leftrightarrow (x+1)(x - m - 5) = 0`

`-> x_1 = -1` hoặc ` x_2= 5+m`

Vì `A, B` có vai trò như nhau nên để không mất tính tổng quát, ta giả sử: 

`x_1` là hoành độ của `A`; `x_2 ` là hoành độ của `B`

` -> y_1 = f(x_1) = f(-1) = 8`

      `y_2 = f(x_2) = f(5+m) = m^2 +6m + 8`

Do đó: `{(A(-1; 8)),(B( 5+m; m^2 +6m + 8)):}`

Gọi `H` chân đường cao từ điểm `I` xuống cạnh `AB` trong `\DeltaIAB` cân tại `I`

`-> H` là trung điểm `AB`

Toạ độ `H((-1+m+5)/2 ; (m^2 +16+ 6m)/2 )`

Ta có: ` IH^2 = |\vec(IH)|^2 = ((2+m)/2)^2 + ((m^2 + 6m + 8)/2)^2 `

`=(4+ 4m + m^4 +36m^2 + 64+12m^3 + 16m^2 + 96m)/ 4`

`=(m^4 + 12m^3 + 53m^2+ 100m + 68)/4`

`=((m+2)^2.(m^2+8m + 12))/4 (1)`

Phương trình đường thẳng `AB` là:

`(y_A - y_B)/(x_A - x_B) (x - x_A) + y_A = y`

`\Leftrightarrow (8- m^2 - 6m - 8)/(-1+m +5 -2) .(x+1) + 8 =y`

`\Leftrightarrow (- m (m+ 6))/(-(m+6)) . (x+1) + 8 = y`

`\Leftrightarrow m(x+1) + 8 = y`

`\Leftrightarrow mx - y + 8 +m = 0`

Khoảng cách từ điểm `I(1;4)` đến đường thẳng `AB` là:

`d(I;\Delta) =(|m- 4 + m +8|)/(\sqrt(m^2+1)`

`\Leftrightarrow d(I;\Delta) =(|2m +4|)/(\sqrt(m^2+1)`

`-> d^2 (I;\Delta) = ((2m+4)^2)/(m^2+1) = (4.(m+2)^2)/(m^2 +1) (2)`

Theo tính chất tam giác cân, ta có: ` IH= d(I;\Delta) (3) ` 

Từ `(1),(2) ` và `(3)` suy ra:

`(4.(m+2)^2)/(m^2 +1) = ((m+2)^2.(m^2+8m + 12))/4`

`\Leftrightarrow 16(m+2)^2 = (m+2)^2(m^2+8m + 12)(m^2+1)`

`\Leftrightarrow 16 = (m^2+8m + 12)(m^2+1)`

`\Leftrightarrow m^4 + m^2 + 8m^3 + 8m+ 17m^2 + 17 = 16`

`\Leftrightarrow m^4 + 18m^2 + 8m^3 + 8m + 1 =0`

$\Rightarrow \left[\begin{matrix} x = -2 - \sqrt3\\ x= -2+ \sqrt3\end{matrix}\right. (tm)$

Vậy: `S = { -2 - \sqrt(3); -2+ \sqrt(3)}`