Lời giải
a) Đặt \(B = \frac{{\sqrt x + 1}}{{\sqrt {xy} + 1}} + \frac{{\sqrt {xy} + \sqrt x }}{{1 - \sqrt {xy} }} + 1\)
\[ = \frac{{\left( {\sqrt x + 1} \right)\left( {1 - \sqrt {xy} } \right) + \left( {\sqrt {xy} + \sqrt x } \right)\left( {\sqrt {xy} + 1} \right) + 1 - xy}}{{\left( {1 - \sqrt {xy} } \right)\left( {\sqrt {xy} + 1} \right)}}\]
\[ = \frac{{\sqrt x - x\sqrt y + 1 - \sqrt {xy} + xy + \sqrt {xy} + x\sqrt y + \sqrt x + 1 - xy}}{{\left( {1 - \sqrt {xy} } \right)\left( {\sqrt {xy} + 1} \right)}}\]
\[ = \frac{{2\sqrt x + 2}}{{\left( {1 - \sqrt {xy} } \right)\left( {\sqrt {xy} + 1} \right)}}\].
Đặt \(C = 1 - \frac{{\sqrt {xy} + \sqrt x }}{{\sqrt {xy} - 1}} - \frac{{\sqrt x + 1}}{{\sqrt {xy} + 1}}\)
\[ = \frac{{xy - 1 - \left( {\sqrt {xy} + \sqrt x } \right)\left( {\sqrt {xy} + 1} \right) - \left( {\sqrt x + 1} \right)\left( {\sqrt {xy} - 1} \right)}}{{\left( {\sqrt {xy} - 1} \right)\left( {\sqrt {xy} + 1} \right)}}\]
\[ = \frac{{xy - 1 - \left( {xy + \sqrt {xy} + x\sqrt y + \sqrt x } \right) - \left( {x\sqrt y - \sqrt x + \sqrt {xy} - 1} \right)}}{{\left( {\sqrt {xy} - 1} \right)\left( {\sqrt {xy} + 1} \right)}}\]
\[ = \frac{{ - 2\sqrt {xy} - 2x\sqrt y }}{{\left( {\sqrt {xy} - 1} \right)\left( {\sqrt {xy} + 1} \right)}} = \frac{{ - 2\sqrt {xy} \left( {1 + \sqrt x } \right)}}{{\left( {\sqrt {xy} - 1} \right)\left( {\sqrt {xy} + 1} \right)}}\].
Ta có \(A = B:C = \frac{{2\sqrt x + 2}}{{\left( {1 - \sqrt {xy} } \right)\left( {\sqrt {xy} + 1} \right)}}.\frac{{\left( {\sqrt {xy} - 1} \right)\left( {\sqrt {xy} + 1} \right)}}{{ - 2\sqrt {xy} \left( {1 + \sqrt x } \right)}}\)
\( = \frac{{2\left( {\sqrt x + 1} \right)}}{{2\sqrt {xy} \left( {1 + \sqrt x } \right)}} = \frac{1}{{\sqrt {xy} }}\).
b) Áp dụng bất đẳng thức Cauchy, ta có \(\frac{1}{{\sqrt x }} + \frac{1}{{\sqrt y }} \ge 2\sqrt {\frac{1}{{\sqrt x }}.\frac{1}{{\sqrt y }}} \)
\( \Leftrightarrow 6 \ge 2\sqrt {\frac{1}{{\sqrt {xy} }}} \Leftrightarrow 3 \ge \sqrt {\frac{1}{{\sqrt {xy} }}} \Leftrightarrow 9 \ge \frac{1}{{\sqrt {xy} }} \Leftrightarrow A \le 9\).
Dấu “=” xảy ra \( \Leftrightarrow \frac{1}{{\sqrt x }} = \frac{1}{{\sqrt y }} \Leftrightarrow x = y = \frac{1}{9}\).
Vậy giá trị lớn nhất của A bằng 9 khi và chỉ khi \(x = y = \frac{1}{9}\).