Giải phương trình: 2x² – 8x – $3\sqrt{x^2-4x-5}$  = 12.

Điều kiện xác định: x² – 4x – 5 ≥ 0 ⇒ x ≥ 5 hoặc x ≤ – 1

Ta có:

2x² – 8x –$3\sqrt{x^2-4x-5}$ = 12

⇔ 2(x² – 4x – 5) –$3\sqrt{x^2-4x-5}$ = 2

Đặt $\sqrt{x^2-4x-5}=t$

⇒ t² = x² – 4x – 5 (t ≥ 0)

Phương trình trở thành: 2t² – 3t = 2

⇔ 2t² – 3t – 2 = 0

⇔ (t – 2)(2t + 1) = 0

⇔ $\left[\begin{array}{l}t=2\\ t=\frac{-1}{2}\end{array}\right.$

Với t = 2 ta có: $\sqrt{x^2-4x-5}=2$

⇒ x² – 4x – 5 = 4

⇔ x² – 4x – 9 = 0

⇔ $\left[\begin{array}{l}x=2+\sqrt{13}\\ x=2-\sqrt{13}\end{array}\right.$

Với t = $\frac{-1}{2}$   ta có: $\sqrt{x^2-4x-5}=\frac{-1}{2}$  (loại)

Vậy phương trình có tập nghiệm là S = $\left\{2+\sqrt{13};2-\sqrt{13}\right\}$ .