d) Tìm vị trí của M để diện tích tam giác HBO lớn nhất.

d) Diện tích tam giác HBO:  $S=\frac{HO.HB}{2}$

Xét $\Delta OHB\backsim \Delta OAM \left(g.g\right)$  $\Rightarrow \frac{HB}{AM}=\frac{OB}{OM}$

⇒ HB.OM = AM.OB (3)

Có: OH.OM = R² (4)

Nhân (3) và (4) vế với vế ta được: 

OH.HB.OM² = R².AM.OB = $R^2.AM.\frac{R^2}{OA}$

⇒  $OH.OB=\frac{AM}{OA.O{M}^2}=R^4.\frac{AM}{OA.(O{A}^2+A{M}^2)}$

Áp dụng BĐT Cô si với OA và AM ta có: OA² + AM² ≥ 2. $\sqrt{O{A}^2.A{M}^2}$  = 2.OA.AM

Dấu "=" xảy ra khi: OA = AM

⇒ $OH.OB\le R^4.\frac{AM}{OA\mathrm{.2.}OA.AM}=\frac{R^4}{2.O{A}^2}$

Suy ra diện tích tam giác HBO lớn nhất là $\frac{R^4}{2.O{A}^2}$  khi OA = OM.