Ta có: P = x² + 2xy + 3y² + 5y + 10

= (x² + 2xy + y²) + (2y² + 5y + 10) 

\[ = {(x + y)^2} + 2{\left( {{y^2} + \frac{5}{2}y + 5} \right)^2} = {(x + y)^2} + 2\left( {{y^2} + \frac{5}{2}y + \frac{{25}}{{16}} + \frac{{55}}{{16}}} \right)\]

\[ = {(x + y)^2} + 2{\left( {y + \frac{5}{4}} \right)^2} + \frac{{55}}{8} \ge \frac{{55}}{8}\]

Dấu "=" xảy ra \[ \Leftrightarrow \left\{ {\begin{array}{*{20}{c}}{x + y = 0}\\{y + \frac{5}{4} = 0}\end{array}} \right. \Leftrightarrow \left\{ {\begin{array}{*{20}{c}}{x = \frac{5}{4}}\\{y = \frac{{ - 5}}{4}}\end{array}} \right.\]

Vậy giá trị nhỏ nhất của \[P = \frac{{55}}{8}\] khi \[x = \frac{5}{4};\,\,y = \frac{{ - 5}}{4}\].