Tìm tất cả các giá trị thực của tham số m để hàm số y = x³ – 3mx² – 9m²x nghịch biến trên khoảng (0; 1).

Ta có: y = x³ – 3mx² – 9m²x

y’ = 3x² – 6mx – 9m²

y’ = 3(x² – 2mx – 3m²)

y’ = 3(x + m)(x – 3m)

TH1: m > 0 suy ra y’ < 0 ⇔ –m < x < 3m

Nên hàm số nghịch biến trên (0; 1)

Suy ra: $\left\{\begin{array}{l}3m>1\\ -m<0\end{array}\right.\iff m>\frac{1}{3}$

TH2: m < 0 suy ra y’ < 0 ⇔ 3m < x < –m

Nên hàm số nghịch biến trên (0; 1)

Suy ra: $\left\{\begin{array}{l}3m<0\\ -m>1\end{array}\right.\iff m<-1$

TH3: m = 0 suy ra y’ = 3x² ≥ 0; ∀ x ∈ (0; 1) nên hàm số đồng biến trên ℝ.

Vậy $m>\frac{1}{3}$ hoặc m < – 1.