Cho hàm số y = mx³ – mx² – (m +4)x + 2. Xác định m để hàm số đã cho nghịch biến trên ℝ.

Ta xét trường hợp hàm số suy biến. Khi m = 0, hàm số trở thành y = −x + 2. Đây là hàm bậc nhất nghịch biến trên ℝ. Vậy m = 0 thỏa mãn yêu cầu bài toán.

Với m ≠ 0, hàm số là hàm đa thức bậc 3.

Y’ = 3mx² – 2mx² – (m + 4)

Do đó hàm số nghịch biến trên ℝ khi và chỉ khi:

\(\left\{ \begin{array}{l}m < 0\\\Delta ' \le 0\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}m < 0\\{m^2} + 3m\left( {m + 4} \right) \le 0\end{array} \right.\)

\( \Leftrightarrow \left\{ \begin{array}{l}m < 0\\4{m^2} + 12m \le 0\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}m < 0\\ - 3 \le m \le 0\end{array} \right.\)

\( \Leftrightarrow \left\{ \begin{array}{l}m < 0\\ - 3 \le m \le 0\end{array} \right.\) ⇔ −3 ≤ m < 0.

Kết hợp 2 trường hợp ta được −3 ≤ m ≤ 0 0 thỏa mãn yêu cầu bài toán.