Lời giải

Chọn A

\[y = \frac{1}{3}{x^3} - \left( {2m - 1} \right){x^2} + \left( {{m^2} - m + 7} \right)x + m - 5\]\[ \Rightarrow y' = {x^2} - 2\left( {2m - 1} \right)x + {m^2} - m + 7\].

+) Hàm số có hai điểm cực trị là độ dài hai cạnh của một tam giác vuông thì \[y'\] có 2 nghiệm dương phân biệt \( \Leftrightarrow \)\[\left\{ \begin{array}{l}\Delta ' = {\left( {2m - 1} \right)^2} - \left( {{m^2} - m - 7} \right) > 0\\2m - 1 > 0\\{m^2} - m + 7 > 0\end{array} \right.\](*).

+) Khi đó, gọi \[{x_1}\], \[{x_2}\] là 2 điểm cực trị của hàm số thì \[{x_1}\], \[{x_2}\] là hai nghiệm của \[y'\] \[ \Rightarrow \left\{ \begin{array}{l}{x_1} + {x_2} = 2\left( {2m - 1} \right)\\{x_1}.{x_2} = {m^2} - m + 7\end{array} \right.\].

Theo giả thiết ta có \[x_1^2 + x_2^2 = 74\]\[ \Leftrightarrow {\left( {{x_1} + {x_2}} \right)^2} - 2{x_1}{x_2} = 74\]\[ \Leftrightarrow 4{\left( {2m - 1} \right)^2} - 2.\left( {{m^2} - m + 7} \right) = 74\]\[ \Leftrightarrow 14{m^2} - 14m - 84 = 0\]\[ \Leftrightarrow \left[ \begin{array}{l}m = 3\\m = - 2\end{array} \right.\].

Thử vào \[\left( * \right) \Rightarrow m = 3\].