Tam giác SAC, có $AC=\sqrt{S{A}^2+S{C}^2}=a\sqrt{10}.$

Tam giác SBC, có $BC=\sqrt{S{B}^2+S{C}^2-2SB.SC.\cos \widehat{BSC}}=a\sqrt{7}.$

Tam giác ABC, có  $\cos \widehat{BAC}=\frac{A{B}^2+A{C}^2-B{C}^2}{2AB.AC}=\frac{\sqrt{10}}{5}.$

 $\stackrel{}{\to }CM=\sqrt{A{M}^2+A{C}^2-2AM.AC.\cos \widehat{BAC}}=\frac{a\sqrt{33}}{2}.$

Ta có $S{M}^2+M{C}^2=S{C}^2=9a^2\stackrel{}{\to }\Delta SMC$  vuông tại $\stackrel{}{\to }SM\perp MC\left(2\right)$ .

Từ $\left(1\right)$  và $\left(2\right)$ , ta có $SM\perp \left(ABC\right).$

Diện tích tam giác $S_{\Delta ABC}=\frac{1}{2}AB.AC.\sin \widehat{BAC}=\frac{a^2\sqrt{6}}{2}.$

Vậy thể tích khối chop $V_{SABC}=\frac{1}{3}{S}_{\Delta ABC}.SM=\frac{a^3\sqrt{2}}{4}.$  Chọn D.

Cách 2.

Trên cạnh SC lấy điểm D sao cho $SD=a$ .

Dễ dàng suy ra $\left\{\begin{array}{l}AB=CD=a,AD=a\sqrt{2}\\ SA=SD=a,AD=a\sqrt{2}\end{array}\right.\stackrel{}{\to }\left\{\begin{array}{l}\Delta ABD\text{ vuong can}\\ \Delta SAD\text{ vuong can}\end{array}\right..$