Cho hàm số $y=x^3-2x^2+(1-m)x+m\left(1\right)$, m là tham số thực. Số giá trị nguyên m đế đồ thị hàm số (1) cắt trục hoành tại 3 điểm phân biệt có hoành độ $x_1,x_2,x_3$ thỏa mãn điều kiện $x_1^2+x_2^2+x_3^2<4$ là

Phương trình hoành độ giao điểm: $x^3-2x^2+(1-m)x+m=0$

$\iff (x-1)\left(x^2-x-m\right)=0\iff x=1$ hoặc $x^2-x-m=0$ (*)

Đồ thị của hàm số (1) cắt trục hoành tại 3 điểm phân biệt khi và chỉ khi phương trình (*) có 2 nghiệm phân biệt, khác 1 .

Đặt $g\left(x\right)=x^2-x-m;x_1=1;x_2$ và $x_3$ là các nghiệm của (*). Ta có

$x_2^2+x_3^2={\left(x_2+x_3\right)}^2-2x_2{x}_3=1+2m$