Cho hàm số $y=x^4-2m{x}^2+m$, (m  là tham số thực). Tìm m để hàm số có cực đại, cực tiểu và ba điểm cực trị của đồ thị hàm số là ba đỉnh của một tam giác có bán kính đường tròn nội tiếp lớn hơn 1.

Ta có $y^{\text{'}}=4x^3-4mx;y^{\text{'}}=0\iff \left[\begin{array}{c}x=0\\ x^2=m\end{array}\right.$ .

Hàm số có  cực trị khi và chỉ khi phương trình $y^{\text{'}}=0$ có ba nghiệm phân biệt, điều này tương đương với m>0.

Khi đó tọa độ các điểm cực trị là $A(0;m);B\left(-\sqrt{m};m-m^2\right);C\left(\sqrt{m};m-m^2\right)$.

Tam giác ABC cân tại A và gọi H là trung điểm của BC thì $H\left(0;m-m^2\right)$ và $AH\perp BC$ do đó $S_{ABC}=\frac{1}{2}AH.BC=m^2\sqrt{m}$.

Ta có $AB=AC=\sqrt{m^4+m};BC=2\sqrt{m}\Rightarrow p_{ABC}=\frac{AB+AC+BC}{2}=\sqrt{m}+\sqrt{m^4+1}$.

Suy ra $r=\frac{S_{ABC}}{p_{ABC}}=\frac{m^2\sqrt{m}}{\sqrt{m}+\sqrt{m^4+m}}>1\iff m^2>1+\sqrt{m^3+1}$.

$\iff \left\{\begin{array}{c}{m}^2-1>0\\ m^4-2m^2+1>m^3+1\end{array}\iff \left\{\begin{array}{c}{m}^2-1>0\\ m^2(m+1)(m-2)>0\end{array}\iff \left[\begin{array}{c}m>2\\ m<-1\end{array}\right.\right.\right.$.

Kết hợp với điều kiện suy ra $m>2$.