Lời giải

Chọn A

$y = \frac{1}{3}{x^3} - \left( {2m - 1} \right){x^2} + \left( {{m^2} - m + 7} \right)x + m - 5$$\Rightarrow y' = {x^2} - 2\left( {2m - 1} \right)x + {m^2} - m + 7$.

+) Hàm số có hai điểm cực trị là độ dài hai cạnh của một tam giác vuông thì $y'$ có 2 nghiệm dương phân biệt $\Leftrightarrow$$\left\{ \begin{array}{l}\Delta ' = {\left( {2m - 1} \right)^2} - \left( {{m^2} - m - 7} \right) > 0\\2m - 1 > 0\\{m^2} - m + 7 > 0\end{array} \right.$(*).

+) Khi đó, gọi ${x_1}$, ${x_2}$ là 2 điểm cực trị của hàm số thì ${x_1}$, ${x_2}$ là hai nghiệm của $y'$ $\Rightarrow \left\{ \begin{array}{l}{x_1} + {x_2} = 2\left( {2m - 1} \right)\\{x_1}.{x_2} = {m^2} - m + 7\end{array} \right.$.

Theo giả thiết ta có $x_1^2 + x_2^2 = 74$$\Leftrightarrow {\left( {{x_1} + {x_2}} \right)^2} - 2{x_1}{x_2} = 74$$\Leftrightarrow 4{\left( {2m - 1} \right)^2} - 2.\left( {{m^2} - m + 7} \right) = 74$$\Leftrightarrow 14{m^2} - 14m - 84 = 0$$\Leftrightarrow \left[ \begin{array}{l}m = 3\\m = - 2\end{array} \right.$.

Thử vào $\left( * \right) \Rightarrow m = 3$.