Đáp án:

$m\in (-\infty;-2)\cup \left(-2;\dfrac{-1\sqrt{21}}{2}\right)\cup \left(\dfrac{1 + \sqrt{21}}{2};+\infty\right)$

Giải thích các bước giải:

$\quad y = (x-1)(x^2 + 2mx + m +5)$

Hàm số có cực đại, cực tiểu nằm `2` phía $Ox$

$\Leftrightarrow$ Đồ thị hàm số cắt $Ox$ tại `3` điểm phân biệt

$\Leftrightarrow y = 0$ có `3` nghiệm phân biệt

$\Leftrightarrow x^2 + 2mx  +m + 5 = 0$ có `2` nghiệm phân biệt khác `1`

$\Leftrightarrow \begin{cases}1^2 + 2m.1 + m + 5 \ne 0\\\Delta ' >0\end{cases}$

$\Leftrightarrow \begin{cases}3m + 6 \ne 0\\m^2 - m - 5 >0\end{cases}$

$\Leftrightarrow \begin{cases}m \ne -2\\\left[\begin{array}{l}m < \dfrac{1 - \sqrt{21}}{2}\\m > \dfrac{1 + \sqrt{21}}{2}\end{array}\right.\end{cases}$

$\Leftrightarrow m\in (-\infty;-2)\cup \left(-2;\dfrac{-1\sqrt{21}}{2}\right)\cup \left(\dfrac{1 + \sqrt{21}}{2};+\infty\right)$

$y=(x-1)(x^2+2mx+m+5)$

$=x^3+2mx^2+(m+5)x-x^2-2mx-m-5$

$=x^3+(2m-1)x^2-(m-5)x-m-5$

$y'=3x^2+2(2m-1)x-m+5$

Hàm số có hai cực trị khi $\Delta'>0$

$\to 4m^2-4m+1+3(m-5)>0$

$\to 4m^2-m-14>0$

$\to m<\dfrac{-7}{4}$ hoặc $m>2$

Hai điểm cực trị nằm về hai phía Ox khi $y=0$ ba nghiệm phân biệt 

$\to x^2+2mx+m+5=0$ hai nghiệm phân biệt khác $1$

$\to m\ne -2; \Delta'>0$

$\Delta'=m^2-m-5>0$

$\to m<\dfrac{1-\sqrt{21}}{2}; m>\dfrac{1+\sqrt{21}}{2}$

Vậy $m\in \Big(-\infty;\dfrac{1-\sqrt{21}}{2}\Big)\cup\Big( \dfrac{1+\sqrt{21}}{2};+\infty)$ \ $\{-2\}$