Ta có: $\text{S}\le x^2+y^2+z^2+6\text{x}yz$

Ta chứng minh x² + y² + z² + 6xyz ≤ 9 = (x + y + z)²

⇔ 3(x² + y² + z² + 6xyz) ≤ 3(x + y + z)²

⇔ (x + y + z)(x² + y² + z² + 6xyz) ≤ (x + y + z)³

⇔ (x + y + z)(x² + y² + z²) + 18xyz ≤ (x + y + z)³

⇔ x³ + xy² +xz² + yx² + y³ + yz² + zx² + zy² + z³ + 18xyz ≤ x³ + y³ + z³ + 3x²y + 3x²z + 3xy² + 3xz² + 3y²z + 3yz² + 6xyz

⇔ 12xyz ≤ 2x²y + 2x²z + 2xy² + 2xz² + 2y²z + 2yz²

⇔ 2(xy² + xz² + yz² + yx² + zy² + zx²) – 12xyz ≥ 0

⇔ 2(xy² + xz² + yz² + yx² + zy² + zx² – 6xyz) ≥ 0

⇔ 2(xy² – 2xyz + xz² + yz² – 2xyz + yx² + zy² – 2xyz + zx²) ≥ 0

⇔ 2[x(y² – 2yz + z²) + y(z² – 2xz + x²) + z(y² – 2xy + x²)] ≥ 0

⇔ 2[x(y – z)² + y(z – x)² + z(y – x)²] ≥ 0

Vì x, y, z ≥ 0

Nên x(y – z)² ≥ 0, y(z – x)² ≥ 0, z(y – x)² ≥ 0

Suy ra 2[x(y – z)² + y(z – x)² + z(y – x)²] ≥ 0

Do đó x² + y² + z² + 6xyz ≤ 9

Hay S ≤ 9

Dấu “ = ” xảy ra khi (x; y; z) = (0; 0; 3) và các hoán vị

Ta có $\text{S}\ge x^2+y^2+z^2+\frac{3}{2}xyz$

Ta sẽ chứng minh $x^2+y^2+z^2+\frac{3}{2}xyz\ge \frac{9}{2}=\frac{{\left(x+y+z\right)}^2}{2}$

⇔ 2x² + 2y² + 2z² + 3xyz ≥ (x + y + z)²

⇔ 2x² + 2y² + 2z² + 3xyz ≥ x² + y² + z² + 2xy + 2yz + 2xz

⇔ x² + y² + z² + 3xyz ≥ 2(xy + yz + xz)

⇔ 3(x² + y² + z²) + 9xyz ≥ 3 . 2(xy + yz + xz)

⇔ (x + y + z)(x² + y² + z²) + 9xyz ≥ 2(xy + yz + xz)(x + y + z)

⇔ x³ + xy² +xz² + yx² + y³ + yz² + zx² + zy² + z³ + 9xyz ≥ 2x²y + 2xy² + 2xyz + 2xyz + 2y²z + 2yz² + 2x²z + 2xyz + 2xz²

⇔ x³ + y³ + z³ + 3xyz ≥ x²y + xy² + y²z + yz² + x²z + xz²

⇔ x³ + y³ + z³ + 3xyz ≥ (x²y + xy²) + (y²z + yz²) + (x²z + xz²)

⇔ x³ + y³ + z³ + 3xyz ≥ xy(x + y) + yz(y + z) + xz(x + z) (luôn đúng theo bất đẳng thức Schur)

Do đó $x^2+y^2+z^2+\frac{3}{2}xyz\ge \frac{9}{2}$

Hay $S\ge \frac{9}{2}$

Dấu “ = ” xảy ra khi $\left(x;y;z\right)=\left(0;\frac{3}{2};\frac{3}{2}\right)$ và các hoán vị

Vậy giá trị lớn nhất của S là 9 và giá trị nhỏ nhất là $\frac{9}{2}$.