Tìm m để đồ thị hàm số$\left(C\right):y=x^3+\left(m+3\right)x^2-\left(2m+9\right)x+m+6$  có hai điểm cực trị và khoảng cách từ gốc tọa độ O đến đường thẳng qua hai điểm cực trị đạt giá trị lớn nhất

Ta có$y^{\text{'}}=3x^2+2\left(m+3\right)x-2m-9=\left(3x^2+6x-9\right)+\left(2mx-2m\right)$ $=\left(x-1\right)\left(3x+9+2m\right).$

Hàm số có hai cực trị khi $y^{\text{'}}=0$  có hai nghiệm phân biệt $\iff 3+9+2m\ne 0\iff m\ne -6$

Một trong hai điểm cực trị là $A\left(1;1\right)$  và  $\overrightarrow{OA}=\left(1;1\right)\Rightarrow OA=\sqrt{2}$ và $k_{\left(OA\right)}=1.$

Đường thẳng d qua hai điểm cực trị có hệ số góc là $k_d=-\left[\frac{2}{3}\left(2m+9\right)+\frac{2}{9}{\left(m+3\right)}^2\right]$

Ta có $d\left[O;d\right]\le OA=\sqrt{2}.$

Dấu “=” xảy ra khi $d\perp OA\iff k_d.k_{\left(OA\right)}=-1\iff -\left[\frac{2}{3}\left(2m+9\right)+\frac{2}{9}{\left(m+3\right)}^2\right]=-1$

$\iff m=-6\pm \frac{3}{\sqrt{2}}.$

Chọn A.