Đáp án:

$\left( 2 - \dfrac{\sqrt{5}}{2}, 2 \right)$.

Giải thích các bước giải:

Ta thấy hàm $f'(x)$ là hàm bậc 3, đạt cực trị tại $x = 0$ và $x = 2$. Suy ra hso của $f''(x)$ phải có dạng

$f''(x) = ax(x-2) = ax^2 - 2ax$

Suy ra

$f'(x) = \dfrac{a}{3} x^3 - ax^2 + b$

Do $f'(x)$ đi qua $(0, 1)$ và $(1, 3)$ dễ dàng tính đc $a = -3, b = 1$. Do đó

$f'(x) = -x^3 + 3x^2 + 1$ 

Ta đặt

$g(x) = f(5-2x) + 4x^2 - 10x$

Suy ra

$g'(x) = -2f'(5-2x) + 8x - 10$

Hso $g(x)$ nghịch biến khi

$g'(x) < 0$

$\Leftrightarrow -2f'(5-2x) + 8x - 10 < 0$

$\Leftrightarrow f'(5-2x) > 4x-5$

Đặt $t = 5-2x$, khi đó ta có

$f'(t) > -2t + 5$

Dễ dàng vẽ đc đồ thị của hso $y = -2t + 5$ khi hso này đi qua $(0, 5)$ và $(1,3)$.

Do đó, $f'(t) > -2t + 5$ là phần đồ thị của $f'(t)$ nằm bên phải đường thẳng $y = -2t + 5$.

Xét ptrinh

$f'(t) = -2t + 5$

$\Leftrightarrow -t^3 + 3t^2 +1 = -2t + 5$

Ptrinh này có 3 nghiệm là $t = 1$ và $t = 1 \pm \sqrt{5}$.

Do đó $f'(t) > -2t + 5$ khi

$1 < t < 1 + \sqrt{5}$.

$\Leftrightarrow 1 < 5-2x < 1 + \sqrt{5}$

$\Leftrightarrow 2 > x > 2 - \dfrac{\sqrt{5}}{2}$

Vậy hso $g(x)$ nghịch biến trên $\left( 2 - \dfrac{\sqrt{5}}{2}, 2 \right)$.