Cho phương trình x² − 2(m + 3)x + m² − 1 = 0.

Tìm m để Q = x₁ + x₂ − 3x₁x₂ có giá trị lớn nhất.

x² − 2(m + 3)x + m² − 1 = 0

Ta có: ∆' = (m + 3)² − (m² − 1) = 6m + 10

Để phương trình có hai nghiệm phân biệt thì ∆' > 0

Hay 6m + 10 > 0 $\iff m>-\frac{5}{3}$

Theo hệ thức Vi-ét ta có: $\left\{\begin{array}{l}{x}_1+x_2=2\left(m+3\right)\\ x_1{x}_2=m^2-1\end{array}\right.$

Xét Q = x₁ + x₂ − 3x₁x₂ = 2(m + 3) − 3(m² − 1)

= −3m² + 2m + 9

$$\begin{gathered} =-\left[{\left(m\sqrt{3}\right)}^2-2.m\sqrt{3}.\frac{1}{\sqrt{3}}+\frac{1}{3}\right]+\frac{28}{3} \\ =\frac{28}{3}-{\left(m\sqrt{3}-\frac{1}{\sqrt{3}}\right)}^2\le \frac{28}{3},\forall m \end{gathered}$$

Dấu “=” xảy ra <=> ${\left(m\sqrt{3}-\frac{1}{\sqrt{3}}\right)}^2=0\iff m=\frac{1}{3}$ (thỏa mãn)

Vậy $m=\frac{1}{3}$ là giá trị của m thỏa mãn.