Trong không gian , cho mặt phẳng và hai điểm , . Gọi sao cho và góc có số đo lớn nhất. Khi đó đẳng thức nào sau đây đúng?

A. $c>0$. 

B. $a+2b=-6$. 

C. $a+b=0$. 

D. $a+b=\frac{23}{5}$.

Vì $MA=MB$ nên M thuộc mặt phẳng trung trực (Q) của đoạn thẳng AB.
Ta có (Q) đi qua trung điểm $I(3;1;-1)$ của AB và có véctơ pháp tuyến là $\overrightarrow{AB}=(2;4;-2)$ nên (Q) có phương trình là
$2(x-3)+4(y-1)-2(z+1)=0\iff x+2y-z-6=0.$
Vì $M\in \left(P\right)$ và $M\in \left(Q\right)$ nên M thuộc giao tuyến $∆$của (P) và (Q).
(P) có véctơ pháp tuyến ${\overrightarrow{n}}_{\left(P\right)}=(0;0;1)$, (Q) có véctơ pháp tuyến ${\overrightarrow{n}}_{\left(Q\right)}=(1;2;-1)$. Khi đó $∆$ có véctơ chỉ phương $\overrightarrow{u}=[{\overrightarrow{n}}_{\left(P\right)},{\overrightarrow{n}}_{\left(Q\right)}]=(-2;1;0)$.
Chọn $N(2;2;0)$ là một điểm chung của (P) và (Q). $\Delta$ đi qua N nên có phương trình $\left\{\begin{array}{l}x=2-2t\\ y=2+t\\ z=0\end{array}\right.(t\in ℝ)$.
Vì $M\in \Delta$nên $M=(2-2t;2+t;0)$. Theo định lý cosin trong tam giác MAB, ta có
$\cos \widehat{AMB}=\frac{M{A}^2+M{B}^2-A{B}^2}{2MA\cdot MB}=\frac{2M{A}^2-A{B}^2}{2M{A}^2}=1-\frac{A{B}^2}{2M{A}^2}.$
Vì AB không đổi nên từ biểu thức trên ta có $\widehat{AMB}$ lớn nhất $\iff \cos \widehat{AMB}$ nhỏ nhất nhỏ nhất $\iff M{A}^2$.
Ta có $M{A}^2={\left(2t\right)}^2+{\left(t+3\right)}^2=5t^2+6t+9=5{\left(t+\frac{3}{5}\right)}^2+\frac{36}{5}\ge \frac{36}{5}$
Đẳng thức xảy ra $\iff t=-\frac{3}{5}$, khi đó $M\left(\frac{16}{5};\frac{7}{5};0\right)$.
Vậy $a+b=\frac{23}{5}$.