Hệ phương trình đối xứng loại 1

Bài viết hướng dẫn nhận dạng và cách giải hệ phương trình đối xứng loại 1 cùng các bài toán có liên quan đến hệ phương trình đối xứng loại 1.

**I. LÝ THUYẾT CẦN NẮM
**1. Định nghĩa: Hệ phương trình đối xứng loại 1 là hệ phương trình có dạng $\left\{ \begin{array}{l}
f\left( {x;y} \right) = a\\
g\left( {x;y} \right) = b
\end{array} \right.$ $\left( I \right)$ trong đó $f\left( {x;y} \right)$, $g\left( {x;y} \right)$ là các biểu thức đối xứng, tức là $f\left( {x;y} \right) = f\left( {y;x} \right)$, $g\left( {x;y} \right) = g\left( {y;x} \right).$
2. Cách giải hệ phương trình đối xứng loại 1:
+ Đặt $S=x+y$, $P=xy.$
+ Biểu diễn $f(x;y)$, $g(x;y)$ qua $S$ và $P$, ta có hệ phương trình: $\left\{ \begin{array}{l}
F\left( {S;P} \right) = 0\\
G\left( {S;P} \right) = 0
\end{array} \right.$, giải hệ phương trình này ta tìm được $S$, $P.$
+ Khi đó $x$, $y$ là nghiệm của phương trình ${X^2} – SX + P = 0$ $(1).$
3. Một số biểu diễn biểu thức đối xứng qua $S$ và $P$:
${x^2} + {y^2}$ $ = {\left( {x + y} \right)^2} – 2xy$ $ = {S^2} – 2P.$
${x^3} + {y^3}$ $ = \left( {x + y} \right)\left( {{x^2} + {y^2} – xy} \right)$ $ = {S^3} – 3SP.$
${x^2}y + {y^2}x$ $ = xy\left( {x + y} \right) = SP.$
${x^4} + {y^4}$ $ = {\left( {{x^2} + {y^2}} \right)^2} – 2{x^2}{y^2}$ $ = {\left( {{S^2} – 2P} \right)^2} – 2{P^2}.$
4. Chú ý:
+ Nếu $(x;y)$ là nghiệm của hệ $(I)$ thì $(y;x)$ cũng là nghiệm của hệ $(I).$
+ Hệ $(I)$ có nghiệm khi $(1)$ có nghiệm hay ${S^2} – 4P \ge 0.$

**II. VÍ DỤ MINH HỌA
**Ví dụ 1. Giải các hệ phương trình sau:
1. $\left\{ \begin{array}{l}
x + y + 2xy = 2\\
{x^3} + {y^3} = 8
\end{array} \right.$
2. $\left\{ \begin{array}{l}
{x^3} + {y^3} = 19\\
\left( {x + y} \right)\left( {8 + xy} \right) = 2
\end{array} \right.$

1. Đặt $S = x + y$, $P = xy$. Khi đó hệ phương trình đã cho trở thành:
$\left\{ \begin{array}{l}
S + 2P = 2\\
S\left( {{S^2} – 3P} \right) = 8
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
P = \frac{{2 – S}}{2}\\
S\left( {{S^2} – \frac{{6 – 3S}}{2}} \right) = 8
\end{array} \right.$
$ \Rightarrow 2{S^3} + 3{S^2} – 6S – 16 = 0$ $ \Leftrightarrow \left( {S – 2} \right)\left( {2{S^2} + 7S + 8} \right) = 0$ $ \Leftrightarrow S = 2 \Rightarrow P = 0.$
Suy ra $x$, $y$ là nghiệm của phương trình: ${X^2} – 2X = 0$ $ \Leftrightarrow \left[ \begin{array}{l}
X = 0\\
X = 2
\end{array} \right.$
Vậy nghiệm của hệ phương trình đã cho là: $\left\{ \begin{array}{l}
x = 0\\
y = 2
\end{array} \right.$ hoặc $\left\{ \begin{array}{l}
x = 2\\
y = 0
\end{array} \right.$
2. Đặt $S=x+y$, $P=xy$. Khi đó hệ phương trình đã cho trở thành:
$\left\{ \begin{array}{l}
S\left( {{S^2} – 3P} \right) = 19\\
S\left( {8 + P} \right) = 2
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
SP = – 8S\\
{S^3} – 3\left( {2 – 8S} \right) = 19
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
SP = 2 – 8S\\
{S^3} + 24S – 25 = 0
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
S = 1\\
P = – 6
\end{array} \right.$
Suy ra $x$, $y$ là nghiệm của phương trình ${X^2} – X – 6 = 0$ $ \Leftrightarrow \left[ \begin{array}{l}
X = 3\\
X = – 2
\end{array} \right.$
Vậy hệ phương trình đã cho có cặp nghiệm: $(x;y)=(-2;3),(3;-2).$

Ví dụ 2. Giải các hệ phương trình sau:
1. $\left\{ \begin{array}{l}
2\left( {x + y} \right) = 3\left( {\sqrt[3]{{{x^2}y}} + \sqrt[3]{{x{y^2}}}} \right)\\
\sqrt[3]{x} + \sqrt[3]{y} = 6
\end{array} \right.$
2. $\left\{ \begin{array}{l}
x + y + \frac{1}{x} + \frac{1}{y} = 4\\
{x^2} + {y^2} + \frac{1}{{{x^2}}} + \frac{1}{{{y^2}}} = 4
\end{array} \right.$

1. Đặt $a = \sqrt[3]{x}$, $b = \sqrt[3]{y}$. Khi đó hệ phương trình đã cho trở thành:
$\left\{ \begin{array}{l}
2\left( {{a^3} + {b^3}} \right) = 3\left( {{a^2}b + {b^2}a} \right)\\
a + b = 6
\end{array} \right.$
Đặt $S=a+b$, $P=ab$, ta được:
$\left\{ \begin{array}{l}
2\left( {{S^3} – 3SP} \right) = 3SP\\
S = 6
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
2\left( {36 – 3P} \right) = 3P\\
S = 6
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
S = 6\\
P = 8
\end{array} \right.$
Suy ra $a$, $b$ là nghiệm của phương trình: ${X^2} – 6X + 8 = 0$ $ \Leftrightarrow \left[ \begin{array}{l}
X = 2\\
X = 4
\end{array} \right.$
Suy ra: $\left\{ \begin{array}{l}
a = 2 \Rightarrow x = 8\\
b = 4 \Rightarrow y = 64
\end{array} \right.$ hoặc $\left\{ \begin{array}{l}
a = 4 \Rightarrow x = 64\\
b = 2 \Rightarrow y = 8
\end{array} \right.$
Vậy nghiệm của hệ phương trình đã cho là: $\left( {x;y} \right) = \left( {8;64} \right),\left( {64;8} \right).$
2. Đặt $a = x + \frac{1}{x}$ $b = y + \frac{1}{y}$, ta có hệ phương trình:
$\left\{ \begin{array}{l}
a + b = 4\\
{a^2} + {b^2} – 4 = 4
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
a + b = 4\\
{\left( {a + b} \right)^2} – 2ab = 8
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
a + b = 4\\
ab = 4
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
a = 2\\
b = 2
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
x + \frac{1}{x} = 2\\
y + \frac{1}{y} = 2
\end{array} \right.$ $ \Leftrightarrow x = y = 1.$
Vậy hệ phương trình đã cho có nghiệm $x=y=1.$

Ví dụ 3. Giải các hệ phương trình sau:
1. $\left\{ \begin{array}{l}
\sqrt {{x^2} + {y^2}} + \sqrt {2xy} = 8\sqrt 2 \\
\sqrt x + \sqrt y = 4
\end{array} \right.$
2. $\left\{ \begin{array}{l}
x + y – \sqrt {xy} = 3\\
\sqrt {x + 1} + \sqrt {y + 1} = 4
\end{array} \right.$

1. Điều kiện: $x,y \ge 0.$
Đặt $t = \sqrt {xy} \ge 0$, ta có: $xy = {t^2}$ và từ $\sqrt x + \sqrt y = 4$ $ \Rightarrow x + y = 16 – 2t.$
Thế vào phương trình thứ nhất của hệ phương trình, ta được:
$\sqrt {{t^2} – 32t + 128} = 8 – t$ $ \Leftrightarrow \left\{ \begin{array}{l}
t \le 8\\
{t^2} – 32t + 128 = {\left( {t – 8} \right)^2}
\end{array} \right.$ $ \Leftrightarrow t = 4.$
Suy ra: $\left\{ \begin{array}{l}
xy = 16\\
x + y = 8
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
x = 4\\
y = 4
\end{array} \right.$
Vậy hệ phương trình đã cho có nghiệm: $x=y=4.$
2. Điều kiện: $\left\{ \begin{array}{l}
xy \ge 0\\
x,y \ge – 1
\end{array} \right.$
Đặt $S=x+y$, $P=xy$ ta có: $\left\{ \begin{array}{l}
S – \sqrt P = 3\\
S + 2 + 2\sqrt {S + P + 1} = 16
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
S \ge 3;P = {\left( {S – 3} \right)^2}\\
2\sqrt {S + {{\left( {S – 3} \right)}^2} + 1} = 14 – S
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
3 \le S \le 14;P = {\left( {S – 3} \right)^2}\\
4\left( {{S^2} + 8S + 10} \right) = 196 – 28S + {S^2}
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
3 \le S \le 14;P = {\left( {S – 3} \right)^2}\\
{S^2} + 30S – 52 = 0
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
S = 6\\
P = 9
\end{array} \right.$ $ \Rightarrow x = y = 3.$
Vậy hệ phương trình đã cho có nghiệm: $(x;y)=(3;3).$

Ví dụ 4. Giải các hệ phương trình sau:
1. $\left\{ \begin{array}{l}
\sqrt[4]{{{y^3} – 1}} + \sqrt x = 3\\
{x^2} + {y^3} = 82
\end{array} \right.$
2. $\left\{ \begin{array}{l}
\sqrt {\frac{x}{y}} + \sqrt {\frac{y}{x}} = \frac{7}{{\sqrt {xy} }} + 1\\
\sqrt {{x^3}y} + \sqrt {{y^3}x} = 78
\end{array} \right.$

1. Đặt $u = \sqrt x $ và $v = \sqrt[4]{{{y^3} – 1}}$. Khi đó, hệ phương trình đã cho trở thành:
$\left\{ \begin{array}{l}
u + v = 3\\
{u^4} + \left( {{v^4} + 1} \right) = 82
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
u + v = 3\\
{u^4} + {v^4} = 81
\end{array} \right.$ $\left( * \right)$
Đặt $S=u+v$, $P=uv$. Với điều kiện ${S^2} – 4P \ge 0$ thì hệ $(*)$ được viết lại:
$\left\{ \begin{array}{l}
S = 3\\
{S^4} – 4{S^2}P + 2{S^2} = 81
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
S = 3\\
{P^2} – 18P = 0
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
P = 0\\
S = 3
\end{array} \right.$ hoặc $\left\{ \begin{array}{l}
P = 18\\
S = 3
\end{array} \right.$
+ Trường hợp 1: Với $S=3$, $P=0$, suy ra $u$, $v$ là nghiệm của phương trình: ${X^2} – 3X = 0$ $ \Leftrightarrow \left[ \begin{array}{l}
X = 0\\
X = 3
\end{array} \right.$
Khi đó: $\left\{ \begin{array}{l}
u = 0\\
v = 3
\end{array} \right. \Rightarrow \left\{ \begin{array}{l}
x = 0\\
y = \sqrt[3]{{82}}
\end{array} \right.$ hoặc $\left\{ \begin{array}{l}
u = 3\\
v = 0
\end{array} \right. \Rightarrow \left\{ \begin{array}{l}
x = 9\\
y = 1
\end{array} \right.$
+ Trường hợp 2: $P=18$, $S=3$ không thỏa mãn điều kiện vì ${S^2} – 4P < 0.$
Vậy hệ phương trình đã cho có nghiệm: $\left( {x;y} \right) = \left( {0;\sqrt[3]{{82}}} \right)$, $\left( {9;1} \right).$
2. Điều kiện: $xy>0.$
+ Trường hợp 1: $x>0$, $y>0$, ta đặt: $u = \sqrt x ,v = \sqrt y .$
+ Trường hợp 2: $x<0$, $y<0$, ta đặt: $u = \sqrt { – x} ,v = \sqrt { – y} .$
Cả 2 trường hợp đều đưa về hệ phương trình:
$\left\{ \begin{array}{l}
\frac{u}{v} + \frac{v}{u} = \frac{7}{{uv}} + 1\\
{u^3}v + {v^3}u = 78
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
{u^2} + {v^2} = uv + 7\\
uv\left( {{u^2} + {v^2}} \right) = 78
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
{S^2} – 3P = 7\\
P\left( {{S^2} – 2P} \right) = 78
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
{S^2} = 3P + 7\\
P\left( {P + 7} \right) = 78
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
{S^2} = 3P + 7\\
{P^2} + 7P – 78 = 0
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
P = 6\\
S = \pm 5
\end{array} \right.$
Từ đó ta tìm được nghiệm của hệ phương trình đã cho là: $(x;y)=(-9;-4),(-4;-9),(4;9)(9;4).$

Ví dụ 5. Tìm $m$ để các hệ phương trình sau đây có nghiệm:
1. $\left\{ \begin{array}{l}
x + y = m\\
{x^2} + {y^2} = 2m + 1
\end{array} \right.$
2. $\left\{ \begin{array}{l}
x + \frac{1}{x} + y + \frac{1}{y} = 5\\
{x^3} + \frac{1}{{{x^3}}} + {y^3} + \frac{1}{{{y^3}}} = 15m – 10
\end{array} \right.$

1. Đặt $S=x+y$, $P=xy$, ta có: $\left\{ \begin{array}{l}
S = m\\
{S^2} – 2P = 2m + 1
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
S = m\\
P = \frac{1}{2}\left( {{m^2} – 2m – 1} \right)
\end{array} \right.$
Hệ phương trình có nghiệm khi và chỉ khi: ${S^2} – 4P \ge 0$ $ \Leftrightarrow {m^2} – 2\left( {{m^2} – 2m – 1} \right)$ $ = – {m^2} + 4m + 2 \ge 0$ $ \Leftrightarrow 2 – \sqrt 6 \le m \le 2 + \sqrt 6 .$
2. Đặt $a = x + \frac{1}{x}$, $b = y + \frac{1}{y}$ $ \Rightarrow \left| a \right| \ge 2;\left| b \right| \ge 2.$
Hệ phương trình đã cho trở thành: $\left\{ \begin{array}{l}
a + b = 5\\
{a^3} + {b^3} – 3\left( {a + b} \right) = 15m – 10
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
a + b = 5\\
ab = 8 – m
\end{array} \right.$
Suy ra $a$, $b$ là nghiệm của phương trình: ${X^2} – 5X + 8 – m = 0$ $ \Leftrightarrow {X^2} – 5X + 8 = m$ $(1).$
Hệ phương trình đã cho có nghiệm khi và chỉ khi $(1)$ có hai nghiệm phân biệt thỏa: $\left| X \right| \ge 2.$
Xét tam thức $f\left( X \right) = {X^2} – 5X + 8$ với $\left| X \right| \ge 2$, ta có bảng biến thiên sau:

Dựa vào bảng biến thiên suy ra $(1)$ có hai nghiệm thỏa $\left| X \right| \ge 2$ khi và chỉ khi $\left[ \begin{array}{l}
m \ge 22\\
\frac{7}{4} \le m \le 2
\end{array} \right.$

Ví dụ 6. Tìm $m$ để hệ phương trình $\left\{ \begin{array}{l}
x + y + xy = m\\
{x^2} + {y^2} = m
\end{array} \right.$ $(*)$ có nghiệm.

Ta có: $\left( * \right) \Leftrightarrow \left\{ \begin{array}{l}
x + y + xy = m\\
{\left( {x + y} \right)^2} – 2xy = m
\end{array} \right.$
Đặt $\left\{ \begin{array}{l}
S = x + y\\
P = xy
\end{array} \right.$, điều kiện ${S^2} \ge 4P$, ta có hệ phương trình:
$\left\{ \begin{array}{l}
S + P = m\\
{S^2} – 2P = m
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
S + P = m\\
{S^2} + 2S – 3m = 0
\end{array} \right.$ $ \Leftrightarrow \left[ \begin{array}{l}
\left\{ \begin{array}{l}
S = – 1 + \sqrt {1 + 3m} \\
P = m + 1 – \sqrt {1 + 3m}
\end{array} \right.\\
\left\{ \begin{array}{l}
S = – 1 – \sqrt {1 + 3m} \\
P = m + 1 + \sqrt {1 + 3m}
\end{array} \right.
\end{array} \right.$
Hệ phương trình đã cho có nghiệm khi và chỉ khi: ${S^2} \ge 4P.$
+ Trường hợp 1. Với $\left\{ \begin{array}{l}
S = – 1 + \sqrt {1 + 3m} \\
P = m + 1 – \sqrt {1 + 3m}
\end{array} \right.$, ta có: ${\left( { – 1 + \sqrt {1 + 3m} } \right)^2}$ $ \ge 4\left( {m + 1 – \sqrt {1 + 3m} } \right)$ $ \Leftrightarrow 2\sqrt {1 + 3m} \ge m + 2$ $ \Leftrightarrow \left[ \begin{array}{l}
\left\{ \begin{array}{l}
m + 2 \le 0\\
1 + 3m \ge 0
\end{array} \right.\\
\left\{ \begin{array}{l}
m + 2 \ge 0\\
4\left( {1 + 3m} \right) \ge {\left( {m + 2} \right)^2}
\end{array} \right.
\end{array} \right.$ $ \Leftrightarrow 0 \le m \le 8.$
+ Trường hợp 2. Với $\left\{ \begin{array}{l}
S = – 1 – \sqrt {1 + 3m} \\
P = m + 1 + \sqrt {1 + 3m}
\end{array} \right.$, ta có: ${\left( { – 1 – \sqrt {1 + 3m} } \right)^2}$ $ \ge 4\left( {m + 1 + \sqrt {1 + 3m} } \right)$ $ \Leftrightarrow 3\sqrt {1 + 3m} \le – m – 2$, dễ thấy bất phương trình này vô nghiệm vì $–m-2<0.$
Vậy hệ phương trình đã cho có nghiệm khi và chỉ khi $0 \le m \le 8.$

Ví dụ 7. Cho $x$, $y$, $z$ là nghiệm của hệ phương trình $\left\{ \begin{array}{l}
{x^2} + {y^2} + {z^2} = 8\\
xy + yz + zx = 4
\end{array} \right.$. Chứng minh: $ – \frac{8}{3} \le x,y,z \le \frac{8}{3}.$

Ta có: $\left\{ \begin{array}{l}
{x^2} + {y^2} + {z^2} = 8\\
xy + yz + zx = 4
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
{x^2} + {y^2} = 8 – {z^2}\\
xy + z\left( {x + y} \right) = 4
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
{\left( {x + y} \right)^2} – 2xy = 8 – {z^2}\\
xy + z\left( {x + y} \right) = 4
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
{\left( {x + y} \right)^2} – 2\left[ {4 – z\left( {x + y} \right)} \right] = 8 – {z^2}\\
xy + z\left( {x + y} \right) = 4
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
{\left( {x + y} \right)^2} + 2z\left( {x + y} \right) + \left( {{z^2} – 16} \right) = 0\\
xy + z\left( {x + y} \right) = 4
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
x + y = 4 – z\\
xy = {\left( {z – 2} \right)^2}
\end{array} \right.$ hoặc $\left\{ \begin{array}{l}
x + y = – 4 – z\\
xy = {\left( {z + 2} \right)^2}
\end{array} \right.$
Do $x$, $y$, $z$ là nghiệm của hệ phương trình $\left\{ \begin{array}{l}
{x^2} + {y^2} + {z^2} = 8\\
xy + yz + zx = 4
\end{array} \right.$ nên: ${\left( {x + y} \right)^2} \ge 4xy$ $ \Leftrightarrow \left[ \begin{array}{l}
{\left( {4 – z} \right)^2} \ge 4{\left( {z – 2} \right)^2}\\
{\left( { – 4 – z} \right)^2} \ge 4{\left( {z + 2} \right)^2}
\end{array} \right.$ $ \Leftrightarrow – \frac{8}{3} \le z \le \frac{8}{3}.$
Đổi vai trò $x$, $y$, $z$ ta được: $ – \frac{8}{3} \le x,y,z \le \frac{8}{3}.$

Ví dụ 8. Cho hai số thực $x$, $y$ thỏa $x + y = 1$. Tìm giá trị nhỏ nhất của biểu thức: $A = {x^3} + {y^3}.$

Xét hệ phương trình: $\left\{ \begin{array}{l}
x + y = 1\\
{x^3} + {y^3} = A
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
S = 1\\
S\left( {{S^2} – 3P} \right) = A
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
S = 1\\
P = \frac{{1 – A}}{3}
\end{array} \right.$
Ta có: $x$, $y$ tồn tại $ \Leftrightarrow $ hệ có nghiệm $ \Leftrightarrow {S^2} – 4P \ge 0$ $ \Leftrightarrow 1 – 4\frac{{1 – A}}{3} \ge 0$ $ \Leftrightarrow A \ge \frac{1}{4}.$
Vậy giá trị nhỏ nhất của $A$ là $\min A = \frac{1}{4}$ $ \Leftrightarrow x = y = \frac{1}{2}.$

Ví dụ 9. Cho các số thực $x e 0,y e 0$ thỏa mãn: $\left( {x + y} \right)xy = {x^2} + {y^2} – xy.$ Tìm giá trị lớn nhất của biểu thức: $A = \frac{1}{{{x^3}}} + \frac{1}{{{y^3}}}.$

Xét hệ phương trình: $\left\{ \begin{array}{l}
\left( {x + y} \right)xy = {x^2} + {y^2} – xy\\
\frac{1}{{{x^3}}} + \frac{1}{{{y^3}}} = A
\end{array} \right.$
Đặt $a = \frac{1}{x}$, $b = \frac{1}{y}$ $\left( {a,b e 0} \right)$, hệ phương trình trên trở thành: $\left\{ \begin{array}{l}
a + b = {a^2} + {b^2} – ab\\
{a^3} + {b^3} = A
\end{array} \right.$
Đặt $S=a+b$, $P=ab$, ta có: $\left\{ \begin{array}{l}
S = {S^2} – 3P\\
S\left( {{S^2} – 3P} \right) = A
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
{S^2} = A\\
3P = {S^2} – S
\end{array} \right.$
Từ $a + b = {a^2} + {b^2} – ab > 0$, suy ra $S > 0.$
Hệ phương trình này có nghiệm $ \Leftrightarrow {S^2} \ge 4P$ $ \Leftrightarrow 3{S^2} \ge 4\left( {{S^2} – S} \right)$ $ \Leftrightarrow S \le 4$ $ \Leftrightarrow A = {S^2} \le 16.$
Đẳng thức xảy ra $ \Leftrightarrow \left\{ \begin{array}{l}
S = 4\\
P = \frac{{{S^2} – S}}{3} = 4
\end{array} \right.$ $ \Leftrightarrow a = b = 2$ $ \Leftrightarrow x = y = \frac{1}{2}.$
Vậy giá trị lớn nhất của $A$ là $\max A = 16$ $ \Leftrightarrow x = y = \frac{1}{2}.$

Ví dụ 10. Cho $x$, $y$ thỏa mãn $x – 3\sqrt {y + 2} = 3\sqrt {x + 1} – y.$ Tìm giá trị lớn nhất và giá trị nhỏ nhất của $A=x+y.$

Xét hệ phương trình: $\left\{ \begin{array}{l}
x – 3\sqrt {y + 2} = 3\sqrt {x + 1} – y\\
x + y = A
\end{array} \right.$
Đặt $a = \sqrt {x + 1} $, $b = \sqrt {y + 2} $ $ \Rightarrow a,b \ge 0.$
Hệ phương trình trên trở thành: $\left\{ \begin{array}{l}
{a^2} + {b^2} – 3\left( {a + b} \right) – 3 = 0\\
{a^2} + {b^2} = A + 3
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
a + b = \frac{A}{3} = S\\
ab = \frac{{{A^2} – 9A – 27}}{{18}} = P
\end{array} \right.$
Suy ra hệ phương trình đã cho có nghiệm $ \Leftrightarrow \left\{ \begin{array}{l}
S \ge 0\\
P \ge 0\\
{S^2} \ge 4P
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
A \ge 0\\
{A^2} – 9A – 27 \ge 0\\
{A^2} – 18A – 54 \le 0
\end{array} \right.$ $ \Leftrightarrow \left\{ \begin{array}{l}
A \ge 0\\
A \le \frac{{9 – 3\sqrt {21} }}{2} \: hoặc \: A \ge \frac{{9 + 3\sqrt {21} }}{2}\\
9 – 3\sqrt {15} \le A \le 9 + 3\sqrt {15}
\end{array} \right.$
Vậy $\min A = \frac{{9 + 3\sqrt {21} }}{2}$ và $\max A = 9 + 3\sqrt {15} .$