Hướng dẫn giải

Xét \[S = \int {{x^3}\sqrt {{x^2} + 9} dx} = \int {{x^2}\sqrt {{x^2} + 9} xdx} \].

Đặt \[u = \sqrt {{x^2} + 9} \Rightarrow {u^2} = {x^2} + 9\]. Suy ra \[{x^2} = {u^2} - 9\] và \[xdx = udu\].

Khi đó \[S = \int {\left( {{u^2} - 9} \right)u.udu} = \int {\left( {{u^4} - 9{u^2}} \right)du} = \frac{{{u^5}}}{5} - 3{u^3} + C\].

Vậy \[S = \frac{{{{\left( {{x^2} + 9} \right)}^2}\sqrt {{x^2} + 9} }}{5} - 3\left( {{x^2} + 9} \right)\sqrt {{x^2} + 9} + C\]

Chọn A.