Chọn D

Gọi I là đỉnh và H là tâm đáy của hình nón (N) . Do $IH\perp mp\left(H\right);OH\perp mp\left(H\right)$

$\Rightarrow I,O,H$ thẳng hàng.

Dễ thấy để (N) có thể tích lớn nhất thì chỉ cần O nằm giữa đoạn IH.

Gọi đường cao của hình nón là: $h=IH=OI+OH=R+OH,R\le h\le 2R.$

Suy ra $r^2=R^2-{(h-R)}^2$.

Thể tích khối nón là: $V=\frac{1}{3}.\pi r^{2}h=\frac{1}{3}.\pi h\left[R^2-{(h-R)}^2\right]=\frac{1}{3}.\pi (-h^3+2R{h}^2)=f\left(h\right)$.

Ta có $f\text{'}\left(h\right)=\frac{1}{3}\pi (4Rh-3h^2)$, cho $f\text{'}\left(h\right)=0\iff \left[\begin{array}{l}h=0\\ h=\frac{4R}{3}\end{array}\right..$

Bảng biến thiên:

Vậy max $V=f\left(\frac{4R}{3}\right)$ khi $h=\frac{4R}{3},r=\frac{2R\sqrt{2}}{3}=\frac{8\sqrt{2}}{3}.$