Cho hai số phức z và w thỏa mãn đồng thời hai hệ thức $\left|z^2+(2-i)z+1\right|=3\left|z\right|$ và $\left|z^2+(2i-3-w)z+1\right|=\left|z\right|$. Biết giá trị lớn nhất của |w| là $a+\sqrt{b}(a,b\in \mathbb{Z})$. Khi đó, biểu thức $P=a^3-2b$ bằng bao nhiêu?

Nhận thấy z = 0 không thỏa mãn hai hệ thức đã cho. Nên ta tiến hành chia hai vế hệ thức cho |z|.

$\left\{\begin{array}{l}|z^2+(2-i)z+1|=3\left|z\right|\\ |z^2+(2i-3-w)z+1|=\left|z\right|\end{array}\right.$$\iff \left\{\begin{array}{l}|z+(2-i)+\frac{1}{z}|=3\\ |z+(2i-3-w)+\frac{1}{z}|=1\end{array}\right.$$\iff \left\{\begin{array}{l}\left|z+\frac{1}{z}+2i-3+(5-3i)\right|=3\\ \mid w-\left(z+\frac{1}{z}+2i-3\right)=1\end{array}\right.$

Đặt $u=z+\frac{1}{z}+2i-3$. Hệ phương trình trở thành: $\left\{\begin{array}{l}|u+(5-3i\left)\right|=3\\ |w-u|=1\end{array}\right.$.