Ta có B = (x + 2)² = x² + 4x + 4.

Lại có A = x³ – 5bx + 2a = x(x² + 4x + 4) – 4x² – 4x – 5bx + 2a

= x(x² + 4x + 4) – 4(x² + 4x + 4) + 12x + 16 – 5bx + 2a

= (x – 4)(x² + 4x + 4) + x(12 – 5b) + 16 + 2a

= (x – 4)B + x(12 – 5b) + 16 + 2a.

Từ đây suy ra A chia cho B dư (12 – 5b)x + 16 + 2a.

Để A chia hết cho B thì đa thức dư phải bằng 0, với mọi x.

$$\begin{gathered} \Rightarrow \left\{\begin{array}{l}12-5b=0\\ 16+2a=0\end{array}\right. \\ \Rightarrow \left\{\begin{array}{l}b=\frac{12}{5}\\ a=-8\end{array}\right. \end{gathered}$$

Vậy a = –8 và  thỏa mãn yêu cầu bài toán.