x² − 2xy + 5y² = y + 1 (1)

<=> x² − 2xy + y² = −4y² + y + 1

<=> (x − y)² = −4y² + y + 1

Vì (x − y)² ≥ 0 nên −4y² + y + 1 ≥ 0

Suy ra $\frac{1-\sqrt{17}}{8}\le y\le \frac{1+\sqrt{17}}{8}$

Vì y $\in$ ℤ => y = 0.

Với y = 0 thì phương trình (1) trở thành:

(1) <=> x² = 1 <=> x = ±1.

Vậy cặp nghiệm nguyên (x; y) của phương trình là {(1; 0); (−1; 0)}.