Tìm giá trị thực của tham số m để đồ thị hàm số $y=-x^3+3mx+1$ có hai điểm cực trị A, B sao cho tam giác OAB vuông tại O, với O là gốc tọa độ.

Ta có  $y\text{'}=-3x^2+3m=-3\left(x^2-m\right).$

Để hàm số có hai điểm cực trị  $\iff x^2-m=0$ có hai nghiệm phân biệt  $\iff m>0.$

Tọa độ các điểm cực trị của đồ thị hàm số là:  $A\left(-\sqrt{m};1-2m\sqrt{m}\right)$ và  $B\left(\sqrt{m};1+2m\sqrt{m}\right)$.

Yêu cầu bài toán  $\iff \overrightarrow{OA}.\overrightarrow{OB}=0\iff 4m^3+m-1=0\iff m=\frac{1}{2}\left(thoûamaõn\right).$ Chọn C.