Phương pháp giải toán hàm số bậc hai

Bài viết hướng dẫn phương pháp giải các dạng toán hàm số bậc hai trong chương trình Đại số 10 chương 2, trong mỗi dạng toán đều bao gồm phương pháp giải toán cùng các ví dụ minh họa điển hình có lời giải chi tiết.

**A. KIẾN THỨC TRỌNG TÂM HÀM SỐ BẬC HAI
**1. Định nghĩa hàm số bậc hai: Hàm số bậc hai là hàm số có dạng $y = a{x^2} + bx + c$ $\left( {a e 0} \right).$
2. Sự biến thiên của hàm số bậc hai: 
+ Tập xác định: $D = R.$
+ Khi $a>0$ hàm số đồng biến trên $\left( -\frac{b}{2a};+\infty \right)$, nghịch biến trên $\left( -\infty ;-\frac{b}{2a} \right)$ và có giá trị nhỏ nhất là $-\frac{\Delta }{4a}$ khi $x=-\frac{b}{2a}$.
+ Khi $a<0$ hàm số đồng biến trên $\left( -\infty ;-\frac{b}{2a} \right)$, nghịch biến trên $\left( -\frac{b}{2a};+\infty \right)$ và có giá trị lớn nhất là $-\frac{\Delta }{4a}$ khi $x=-\frac{b}{2a}$.
Bảng biến thiên:

**3. Đồ thị hàm số bậc hai:
**+ Khi $a>0$ đồ thị hàm số bậc hai bề lõm hướng lên trên và có tọa độ đỉnh là $I\left( -\frac{b}{2a};-\frac{\Delta }{4a} \right).$
+ Khi $a<0$ đồ thị hàm số bậc hai bề lõm hướng xuống dưới và có tọa độ đỉnh là $I\left( -\frac{b}{2a};-\frac{\Delta }{4a} \right).$
+ Đồ thị nhận đường thẳng $x=-\frac{b}{2a}$ làm trục đối xứng.

**B. PHƯƠNG PHÁP GIẢI CÁC DẠNG TOÁN HÀM SỐ BẬC HAI
****Dạng toán 1. Xác định hàm số bậc hai.
**Phương pháp giải toán: Để xác định hàm số bậc hai ta thực hiện theo các bước như sau:
+ Gọi hàm số cần tìm là $y = a{x^2} + bx + c$, $a e 0.$
+ Dựa theo giả thiết bài toán để thiết lập hệ phương trình với ba ẩn $a,b,c.$
+ Giải hệ phương trình trên để tìm $a,b,c$, từ đó suy ra hàm số cần tìm.

Ví dụ 1. Xác định parabol $\left( P \right):$ $y = a{x^2} + bx + c$, $a e 0$ biết:
a) $\left( P \right)$ đi qua $A(2;3)$ có đỉnh $I(1;2).$
b) $c=2$ và $\left( P \right)$ đi qua $B\left( 3;-4 \right)$ và có trục đối xứng là $x=-\frac{3}{2}$.
c) Hàm số $y=a{{x}^{2}}+bx+c$ có giá trị nhỏ nhất bằng $\frac{3}{4}$ khi $x=\frac{1}{2}$ và nhận giá trị bằng $1$ khi $x=1$.
d) $\left( P \right)$ đi qua $M(4;3)$ cắt $Ox$ tại $N(3;0)$ và $P$ sao cho $\Delta INP$ có diện tích bằng $1$ biết hoành độ điểm $P$ nhỏ hơn $3$.

a) Ta có:
$A\in \left( P \right)$ nên $3=4a+2b+c.$
Parabol $\left( P \right)$ có đỉnh $I(1;2)$ nên $-\frac{b}{2a}=1$ $\Leftrightarrow 2a+b=0.$
$I\in \left( P \right)$ suy ra $2=a+b+c.$
Từ đó ta có hệ phương trình $\left\{ \begin{align}
& 4a+2b+c=3 \\
& 2a+b=0 \\
& a+b+c=2 \\
\end{align} \right.$ $\Leftrightarrow \left\{ \begin{align}
& a=1 \\
& b=-2 \\
& c=3 \\
\end{align} \right.$
Vậy parabol $\left( P \right)$ cần tìm là $y={{x}^{2}}-2x+3.$
b) Ta có $c = 2$ và $\left( P \right)$ đi qua $B\left( {3; – 4} \right)$ nên $ – 4 = 9a + 3b + 2$ $ \Leftrightarrow 3a + b = – 2.$
$\left( P \right)$ có trục đối xứng là $x = – \frac{3}{2}$ nên $ – \frac{b}{{2a}} = – \frac{3}{2}$ $ \Leftrightarrow b = 3a.$
Từ đó suy ra: $a = – \frac{1}{3}$ và $b = – 1.$
Vậy parabol $\left( P \right)$ cần tìm là $y = – \frac{1}{3}{x^2} – x + 2.$
c) Hàm số $y=a{{x}^{2}}+bx+c$ có giá trị nhỏ nhất bằng $\frac{3}{4}$ khi $x=\frac{1}{2}$ nên ta có: $-\frac{b}{2a}=\frac{1}{2}$ $\Leftrightarrow a+b=0$, $\frac{3}{4}=a{{\left( \frac{1}{2} \right)}^{2}}+b\left( \frac{1}{2} \right)+c$ $\Leftrightarrow a+2b+4c=3$ và $a>0.$
Hàm số $y=a{{x}^{2}}+bx+c$ nhận giá trị bằng $1$ khi $x=1$ nên $a+b+c=1.$
Từ đó ta có hệ phương trình $\left\{ \begin{align}
& a+b=0 \\
& a+2b+4c=3 \\
& a+b+c=1 \\
\end{align} \right.$ $\Leftrightarrow \left\{ \begin{align}
& a=1 \\
& b=-1 \\
& c=1 \\
\end{align} \right.$
Vậy parabol $\left( P \right)$ cần tìm là $y={{x}^{2}}-x+1.$
d) Vì $\left( P \right)$ đi qua $M(4;3)$ nên $3=16a+4b+c$ $(1).$
Mặt khác $\left( P \right)$ cắt $Ox$ tại $N(3;0)$ suy ra $0=9a+3b+c$ $(2)$, $\left( P \right)$ cắt $Ox$ tại $P$ nên $P\left( t;0 \right)$, $t<3.$
Theo định lý Viét ta có $\left\{ \begin{matrix}
t+3=-\frac{b}{a} \\
3t=\frac{c}{a} \\
\end{matrix} \right.$
Ta có ${{S}_{\Delta IBC}}=\frac{1}{2}IH.NP$ với $H$ là hình chiếu của $I\left( -\frac{b}{2a};-\frac{\Delta }{4a} \right)$ lên trục hoành.
Do $IH=\left| -\frac{\Delta }{4a} \right|$, $NP=3-t$ nên ${{S}_{\Delta INP}}=1$ $\Leftrightarrow \frac{1}{2}\left| -\frac{\Delta }{4a} \right|.\left( 3-t \right)=1$ $\Leftrightarrow \left( 3-t \right)\left| {{\left( \frac{b}{2a} \right)}^{2}}-\frac{c}{a} \right|=\left| \frac{2}{a} \right|$ $\Leftrightarrow \left( 3-t \right)\left| {{\frac{\left( t+3 \right)}{4}}^{2}}-3t \right|=\left| \frac{2}{a} \right|$ $\Leftrightarrow {{\left( 3-t \right)}^{3}}=\frac{8}{\left| a \right|}$ $(3).$
Từ $(1)$ và $(2)$ ta có $7a+b=3$ $\Leftrightarrow b=3-7a$ suy ra $t+3=-\frac{3-7a}{a}$ $\Leftrightarrow \frac{1}{a}=\frac{4-t}{3}.$
Thay vào $(3)$ ta có ${{\left( 3-t \right)}^{3}}=\frac{8\left( 4-t \right)}{3}$ $\Leftrightarrow 3{{t}^{3}}-27{{t}^{2}}+73t-49=0$ $\Leftrightarrow t=1.$
Suy ra $a=1$ $\Rightarrow b=-4$ $\Rightarrow c=3.$
Vậy parabol $\left( P \right)$ cần tìm là $y={{x}^{2}}-4x+3.$

**Dạng toán 2. Xét sự biến thiên và vẽ đồ thị của hàm số bậc hai.
**Phương pháp giải toán: Để vẽ đường parabol $y=a{{x}^{2}}+bx+c$ ta thực hiện các bước như sau:
+ Xác định toạ độ đỉnh $I\left( -\frac{b}{2a};-\frac{\Delta }{4a} \right) của parabol$.
+ Xác định trục đối xứng $x=-\frac{b}{2a}$ và hướng bề lõm của parabol.
+ Xác định một số điểm cụ thể của parabol (chẳng hạn như giao điểm của parabol với các trục toạ độ và các điểm đối xứng với chúng qua trục trục đối xứng).
+ Căn cứ vào tính đối xứng, bề lõm và hình dáng parabol để vẽ parabol.

Ví dụ 2. Lập bảng biến thiên và vẽ đồ thị các hàm số sau:
a) $y = {x^2} + 3x + 2.$
b) $y = – {x^2} + 2\sqrt 2 x.$

a) Ta có $ – \frac{b}{{2a}} = – \frac{3}{2}$, $ – \frac{\Delta }{{4a}} = – \frac{1}{4}.$
Bảng biến thiên:

Suy ra đồ thị hàm số $y={{x}^{2}}+3x+2$ có đỉnh là $I\left( -\frac{3}{2};-\frac{1}{4} \right)$, nhận đường thẳng $x=-\frac{3}{2}$ làm trục đối xứng, hướng bề lõm lên trên và đi qua các điểm $A\left( -2;0 \right)$, $B\left( -1;0 \right)$, $C\left( 0;2 \right)$, $D\left( -3;2 \right).$

b) Ta có $ – \frac{b}{{2a}} = \sqrt 2 $, $ – \frac{\Delta }{{4a}} = 2.$
Bảng biến thiên:

Suy ra đồ thị hàm số $y=-{{x}^{2}}+2\sqrt{2}x$ có đỉnh là $I\left( \sqrt{2};2 \right)$, nhận đường thẳng $x=\sqrt{2}$ làm trục đối xứng, hướng bề lõm xuống dưới và đi qua các điểm $O\left( 0;0 \right)$, $B\left( 2\sqrt{2};0 \right).$

Ví dụ 3. Cho hàm số $y={{x}^{2}}-6x+8.$
a) Lập bảng biến thiên và vẽ đồ thị hàm số trên.
b) Sử dụng đồ thị để biện luận theo tham số $m$ số điểm chung của đường thẳng $y=m$ và đồ thị hàm số trên.
c) Sử dụng đồ thị, hãy nêu các khoảng trên đó hàm số chỉ nhận giá trị dương.
d) Sử dụng đồ thị, hãy tìm giá trị lớn nhất, nhỏ nhất của hàm số đã cho trên $\left[ { – 1;5} \right].$

a) Ta có $ – \frac{b}{{2a}} = 3$, $ – \frac{\Delta }{{4a}} = – 1.$
Bảng biến thiên:

Suy ra đồ thị hàm số $y={{x}^{2}}+3x+2$ có đỉnh là $I\left( 3;-1 \right)$, nhận đường thẳng $x=3$ làm trục đối xứng, hướng bề lõm lên trên và đi qua các điểm $A\left( 2;0 \right)$, $B\left( 4;0 \right).$

Đường thẳng $y=m$ song song hoặc trùng với trục hoành do đó dựa vào đồ thị ta có:
+ Với $m<-1$ đường thẳng $y=m$ và parabol $y={{x}^{2}}-6x+8$ không cắt nhau.
+ Với $m=-1$ đường thẳng $y=m$ và parabol $y={{x}^{2}}-6x+8$ cắt nhau tại một điểm (tiếp xúc).
+ Với $m>-1$ đường thẳng $y=m$ và parabol $y={{x}^{2}}-6x+8$ cắt nhau tại hai điểm phân biệt.
c) Hàm số nhận giá trị dương ứng với phần đồ thị nằm hoàn toàn trên trục hoành.
Do đó hàm số chỉ nhận giá trị dương khi và chỉ khi $x\in \left( -\infty ;2 \right)\cup \left( 4;+\infty \right)$.
d) Ta có $y\left( -1 \right)=15$, $y\left( 5 \right)=13$, $y\left( 3 \right)=-1$, kết hợp với đồ thị hàm số suy ra:
$\underset{\left[ -1;5 \right]}{\mathop{\max }}y=15$ khi và chỉ khi $x=-1.$
$\underset{\left[ -1;5 \right]}{\mathop{\min }}y=-1$ khi và chỉ khi $x=3.$

**Dạng toán 3. Đồ thị của hàm số cho bởi nhiều công thức và hàm số chứa dấu trị tuyệt đối.
**Ví dụ 4. Vẽ đồ thị của hàm số sau:
a) $y = \left\{ {\begin{array}{*{20}{c}}
{x – 2\:khi\:x \ge 2}\\
{ – {x^2} + 2x\:khi\:x < 2}
\end{array}} \right.$
b) $y = \left| {{x^2} – x – 2} \right|.$

a) Đồ thị hàm số $y=\left\{ \begin{matrix}
x-2\:khi\:x\ge 2 \\
-{{x}^{2}}+2x\:khi\:x<2 \\
\end{matrix} \right.$ gồm:
+ Đường thẳng $y=x-2$ đi qua $\text{A}\left( 2;0 \right)$, $B\left( 0;-2 \right)$ và lấy phần nằm bên phải của đường thẳng $x=2.$
+ Parabol $y=-{{x}^{2}}+2x$ có đỉnh $I\left( 1;2 \right)$, trục đối xứng $x=1$, đi qua các điểm $O\left( 0;0 \right)$, $C\left( 2;0 \right)$ và lấy phần đồ thị nằm bên trái của đường thẳng $x=2.$

b) Vẽ parabol $\left( P \right)$ của đồ thị hàm số $y={{x}^{2}}-x-2$ có đỉnh $I\left( \frac{1}{2};-\frac{5}{4} \right)$, trục đối xứng $x=\frac{1}{2}$, đi qua các điểm $A\left( -1;0 \right)$, $B\left( 2;0 \right)$, $C\left( 0;-2 \right)$, $D\left( 1;-2 \right)$.
Khi đó đồ thị hàm số $y=\left| {{x}^{2}}-x-2 \right|$ gồm phần parabol $\left( P \right)$ nằm phía trên trục hoành và phần đối xứng của $\left( P \right)$ nằm dưới trục hoành qua trục hoành.

Ví dụ 5. Vẽ đồ thị của hàm số sau:
a) $y = {x^2} – 3\left| x \right| + 2.$
b) $y = \left| {{x^2} – 3\left| x \right| + 2} \right|.$
c) $y = {x^2} – 3\left| x \right| + 3.$
d) $y = \left| {{x^2} – 4x – 3\left| {x – 2} \right| + 6} \right| – 1.$

a) Vẽ đồ thị hàm số $\left( P \right):y={{x}^{2}}-3x+2$ có đỉnh $I\left( \frac{3}{2};-\frac{1}{4} \right)$, trục đối xứng $x=\frac{3}{2}$, đi qua các điểm $A\left( 1;0 \right)$, $B\left( 2;0 \right)$, $C\left( 0;2 \right)$, $D\left( 3;2 \right)$ và có phần bề lõm hướng lên trên.
Khi đó đồ thị hàm số $y={{x}^{2}}-3\left| x \right|+2$ là $\left( {{P}_{1}} \right)$ gồm phần bên phải trục tung của $\left( P \right)$ và phần lấy đối xứng của nó qua trục tung.

b) Đồ thị hàm số $y=\left| {{x}^{2}}-3\left| x \right|+2 \right|$ là $\left( {{P}_{2}} \right)$ gồm phần phía trên trục hoành của $\left( {{P}_{1}} \right)$ và phần đối xứng của $\left( {{P}_{1}} \right)$ nằm phía dưới trục hoành qua trục hoành.

c) Đồ thị hàm số $y={{x}^{2}}-3\left| x \right|+3$ là $\left( {{P}_{3}} \right)$ có được từ việc tịnh tiến $\left( {{P}_{1}} \right)$ đi một đơn vị lên phía trên song song với trục tung.

d) Ta có: $y = \left| {{x^2} – 4x – 3\left| {x – 2} \right| + 6} \right| – 1$ $ = \left| {{{\left( {x – 2} \right)}^2} – 3\left| {x – 2} \right| + 2} \right| – 1.$
Do đó tịnh tiến $\left( {{P}_{2}} \right)$ sang phải đi hai đơn vị song song với trục hoành ta được đồ thị hàm số $y=\left| {{\left( x-2 \right)}^{2}}-3\left| x-2 \right|+2 \right|$, tiếp tục tịnh tiến xuống dưới một đơn vị song song với trục tung ta được đồ thị hàm số $y=\left| {{\left( x-2 \right)}^{2}}-3\left| x-2 \right|+2 \right|-1.$

**Dạng toán 4. Ứng dụng của hàm số bậc hai trong chứng minh bất đẳng thức và tìm giá trị nhỏ nhất, lớn nhất.
**Phương pháp giải toán: Dựa vào đồ thị (hoặc bảng biến thiên) của hàm số $y=a{{x}^{2}}+bx+c$ $(a e 0)$ ta thấy nó đạt giá trị lớn nhất, nhỏ nhất trên $\left[ \alpha ;\beta  \right]$ tại điểm $x=\alpha $ hoặc $x=\beta $ hoặc $x=-\frac{b}{2a}$, cụ thể như sau:
Trường hợp 1: $a > 0.$
+ Nếu $ – \frac{b}{{2a}} \in \left[ {\alpha ;\beta } \right]$ $ \Rightarrow \mathop {\min }\limits_{\left[ {\alpha ;\beta } \right]} f(x) = f( – \frac{b}{{2a}})$, $\mathop {\max }\limits_{\left[ {\alpha ;\beta } \right]} f(x) = \max \left\{ {f(\alpha ),f(\beta )} \right\}.$
+ Nếu $ – \frac{b}{{2a}} otin \left[ {\alpha ;\beta } \right]$ $ \Rightarrow \mathop {\min }\limits_{\left[ {\alpha ;\beta } \right]} f(x) = \min \left\{ {f(\alpha ),f(\beta )} \right\}$, $\mathop {\max }\limits_{\left[ {\alpha ;\beta } \right]} f(x) = \max \left\{ {f(\alpha ),f(\beta )} \right\}.$
Trường hợp 2: $a < 0.$
+ Nếu $ – \frac{b}{{2a}} \in \left[ {\alpha ;\beta } \right]$ $ \Rightarrow \mathop {\max }\limits_{\left[ {\alpha ;\beta } \right]} f(x) = f( – \frac{b}{{2a}})$, $\mathop {\min }\limits_{\left[ {\alpha ;\beta } \right]} f(x) = \min \left\{ {f(\alpha ),f(\beta )} \right\}.$
+ Nếu $ – \frac{b}{{2a}} otin \left[ {\alpha ;\beta } \right]$ $ \Rightarrow \mathop {\min }\limits_{\left[ {\alpha ;\beta } \right]} f(x) = \min \left\{ {f(\alpha ),f(\beta )} \right\}$, $\mathop {\max }\limits_{\left[ {\alpha ;\beta } \right]} f(x) = \max \left\{ {f(\alpha ),f(\beta )} \right\}.$

Ví dụ 6. Cho phương trình ${x^2} + 2\left( {m + 3} \right)x + {m^2} – 3 = 0$, $m$ là tham số. Tìm $m$ để phương trình có hai nghiệm ${{x}_{1}},{{x}_{2}}$ và $P=5({{x}_{1}}+{{x}_{2}})-2{{x}_{1}}{{x}_{2}}$ đạt giá trị lớn nhất.

Ta có: $\Delta’ = {\left( {m + 3} \right)^2} – \left( {{m^2} – 3} \right)$ $ = 6m + 12.$
Phương trình có nghiệm $ \Leftrightarrow \Delta’ \ge 0$ $ \Leftrightarrow 6m + 12 \ge 0$ $ \Leftrightarrow m \ge – 2.$
Theo định lý Viét ta có: $\left\{ {\begin{array}{*{20}{c}}
{{x_1} + {x_2} = – 2\left( {m + 3} \right)}\\
{{x_1}{x_2} = {m^2} – 3}
\end{array}} \right.$
$P = – 10\left( {m + 3} \right) – 2\left( {{m^2} – 3} \right)$ $ = – 2{m^2} – 10m – 24.$
Xét hàm số $y = – 2{x^2} – 10x – 24$ với $x \in \left[ { – 2; + \infty } \right).$
Bảng biến thiên:

Suy ra $\mathop {max}\limits_{\left[ { – 2; + \infty } \right)} y = – 12$ khi và chỉ khi $x = – 2.$
Vậy $m = – 2$ là giá trị cần tìm.

Ví dụ 7. Tìm giá trị nhỏ nhất của hàm số $y = \sqrt[3]{{{x^4} + 2{x^2} + 1}}$ $ – 3\sqrt[3]{{{x^2} + 1}} + 1.$

Đặt $t = \sqrt[3]{{{x^2} + 1}}$, $t \ge 1$ $ \Rightarrow {t^2} = \sqrt[3]{{{x^4} + 2{x^2} + 1}}.$
Khi đó hàm số trở thành $y = {t^2} – 3t + 1$ với $t \ge 1.$
Bảng biến thiên:

Suy ra giá trị nhỏ nhất của hàm số $y = \sqrt[3]{{{x^4} + 2{x^2} + 1}}$ $ – 3\sqrt[3]{{{x^2} + 1}} + 1$ là $ – \frac{5}{4}$ khi và chỉ khi $t = \frac{3}{2}$ hay $\sqrt[3]{{{x^2} + 1}} = \frac{3}{2}$ $ \Leftrightarrow x = \pm \sqrt {\frac{{19}}{8}} .$

Ví dụ 8. Tìm giá trị lớn nhất và nhỏ nhất của hàm số $y = {x^4} – 4{x^2} – 1$ trên $\left[ { – 1;2} \right].$

Đặt $t = {x^2}.$
Với $x \in \left[ { – 1;2} \right]$, ta có: $t \in \left[ {0;4} \right].$
Hàm số trở thành $f\left( t \right) = {t^2} – 4t – 1$ với $t \in \left[ {0;4} \right].$
Bảng biến thiên:

Suy ra:
$\mathop {max}\limits_{\left[ { – 1;2} \right]} y = \mathop {max}\limits_{\left[ {0;4} \right]} f\left( t \right) = – 1$ khi $\left[ {\begin{array}{*{20}{c}}
{t = 0}\\
{t = 4}
\end{array}} \right.$ hay $\left[ {\begin{array}{*{20}{c}}
{x = 0}\\
{x = \pm 2}
\end{array}} \right.$
$\mathop {\min y}\limits_{\left[ { – 1;2} \right]} = \mathop {\min }\limits_{\left[ { – 1;2} \right]} f\left( t \right) = – 1$ khi $t = 2$ hay $x = \pm \sqrt 2 .$

Ví dụ 9. Cho các số thực $a,b$ thoả mãn $ab e 0$. Tìm giá trị nhỏ nhất của biểu thức: $P = \frac{{{a^2}}}{{{b^2}}} + \frac{{{b^2}}}{{{a^2}}} – \frac{a}{b} – \frac{b}{a} + 1.$

Đặt $t = \frac{a}{b} + \frac{b}{a}$, ta có $\left| t \right| = \left| {\frac{a}{b} + \frac{b}{a}} \right|$ $ = \left| {\frac{a}{b}} \right| + \left| {\frac{b}{a}} \right|$ $ \ge 2\sqrt {\left| {\frac{a}{b}} \right|.\left| {\frac{b}{a}} \right|} = 2.$
${t^2} = \frac{{{a^2}}}{{{b^2}}} + \frac{{{b^2}}}{{{a^2}}} + 2$ $ \Rightarrow \frac{{{a^2}}}{{{b^2}}} + \frac{{{b^2}}}{{{a^2}}} = {t^2} – 2.$
Ta có $P = {t^2} – 2 – t + 1$ $ = {t^2} – t – 1.$
Xét hàm số $f(t) = {t^2} – t – 1$ với $t \in \left( { – \infty ; – 2} \right] \cup \left[ {2; + \infty } \right).$
Bảng biến thiên:

Từ bảng biến thiên ta có:
$\min P = \mathop {\min }\limits_{\left( { – \infty ; – 2} \right] \cup \left[ {2; + \infty } \right)} f(t) = 1$ khi $t = 2$ hay $2 = \frac{a}{b} + \frac{b}{a}$ $ \Leftrightarrow a = b.$

Ví dụ 10. Cho các số $x,y$ thoả mãn: ${x^2} + {y^2} = 1 + xy.$ Chứng minh rằng $\frac{1}{9} \le {x^4} + {y^4} – {x^2}{y^2} \le \frac{3}{2}.$

Đặt $P = {x^4} + {y^4} – {x^2}{y^2}.$
Ta có $P = {({x^2} + {y^2})^2} – 3{x^2}{y^2}$ $ = {\left( {1 + xy} \right)^2} – 3{x^2}{y^2}$ $ = – 2{x^2}{y^2} + 2xy + 1.$
Đặt $t = xy$, khi đó $P = – 2{t^2} + 2t + 1.$
Vì $\left\{ {\begin{array}{*{20}{c}}
{{x^2} + {y^2} \ge 2xy}\\
{{x^2} + {y^2} \ge – 2xy}
\end{array}} \right.$ nên $\left\{ {\begin{array}{*{20}{c}}
{1 + xy \ge 2xy}\\
{1 + xy \ge – 2xy}
\end{array}} \right.$ $ \Leftrightarrow – \frac{1}{3} \le xy \le 1.$
Do đó $ – \frac{1}{3} \le t \le 1.$
Xét hàm số $f(t) = – 2{t^2} + 2t + 1$ trên $\left[ { – \frac{1}{3};\,1} \right].$
Ta có $ – \frac{b}{{2a}} = \frac{1}{2}$, ta có bảng biến thiên:

Từ bảng biến thiên ta có $\mathop {\min }\limits_{\left[ { – \frac{1}{3};\,12} \right]} f(t) = \frac{1}{9}$ $ \le P \le \mathop {\max }\limits_{\left[ { – \frac{1}{3};1} \right]} f(t) = \frac{3}{2}.$