Giải hệ phương trình: $$\left\{\begin{matrix} x^{3}+3x^{2}+3x=2y^{3}+6y^{2}+6y & \\ x^{2}+y^{2}=y\sqrt{x\left(x+y \right)}+x\sqrt{y\left(y-x \right)} & \end{matrix}\right.$$

Đề bài:Giải hệ phương trình: \[\left\{ {\begin{array}{*{20}{c}}
{{x^3} + 3{x^2} + 3x = 2{y^3} + 6{y^2} + 6y}&{}\\
{{x^2} + {y^2} = y\sqrt {x\left( {x + y} \right)}  + x\sqrt {y\left( {y - x} \right)} }&{}
\end{array}} \right.\]

Lời giải

Điều kiện: $x\left( {x + y} \right) \ge 0,y\left( {y - x} \right) \ge 0$

Ta có: \[\left\{ {\begin{array}{*{20}{l}}
{y\sqrt {x\left( {x + y} \right)}  \le \frac{{{x^2} + xy + {y^2}}}{2}}\\
{x\sqrt {y\left( {y - x} \right)}  \le \frac{{{x^2} - xy + {y^2}}}{2}}
\end{array}} \right. \Rightarrow \begin{array}{*{20}{c}}
{y\sqrt {x\left( {x + y} \right)}  + x\sqrt {y\left( {y - x} \right)}  \le {x^2} + {y^2}}&{\left( 3 \right)}
\end{array}\]

Khi đó: \[\begin{array}{l}
\left( 2 \right) \Leftrightarrow \left\{ {\begin{array}{*{20}{l}}
{{y^2} = {x^2} + xy}\\
{x,y \ge 0}
\end{array}} \right. \Leftrightarrow \left\{ {\begin{array}{*{20}{l}}
{\left[ {\begin{array}{*{20}{l}}
{x = \frac{{ - 1 + \sqrt 5 }}{2}y}\\
{x = \frac{{ - 1 - \sqrt 5 }}{2}y}
\end{array}} \right.}\\
{x,y \ge 0}
\end{array}} \right.\\
 \Leftrightarrow \left[ {\begin{array}{*{20}{l}}
{\left\{ {\begin{array}{*{20}{l}}
{x = \frac{{ - 1 + \sqrt 5 }}{2}y}\\
{x,y \ge 0}
\end{array}} \right.}\\
{\left\{ {\begin{array}{*{20}{l}}
{x = \frac{{ - 1 - \sqrt 5 }}{2}y}\\
{x,y \ge 0}
\end{array}} \right.}
\end{array}} \right. \Leftrightarrow \left[ {\begin{array}{*{20}{l}}
{\left\{ {\begin{array}{*{20}{l}}
{x = \frac{{ - 1 + \sqrt 5 }}{2}y}\\
{x,y \ge 0}
\end{array}} \right.}\\
{x = y = 0}
\end{array}} \right.
\end{array}\]

Với \[\left\{ {\begin{array}{*{20}{l}}
{x = \frac{{ - 1 + \sqrt 5 }}{2}y}\\
{x,y \ge 0}
\end{array}} \right.\] thay lên phương trình còn lại ta được:
\[{\left( {\frac{{ - 1 + \sqrt 5 }}{2}y} \right)^3} + 3{\left( {\frac{{ - 1 + \sqrt 5 }}{2}y} \right)^2} + 3.\frac{{ - 1 + \sqrt 5 }}{2}y = 2{y^3} + 6{y^2} + 6y\]
\[ \Leftrightarrow \left( { - 4 + \sqrt 5 } \right){y^3} - \left( {\frac{{3 + 3\sqrt 5 }}{2}} \right){y^2} + \frac{{ - 15 + 3\sqrt 5 }}{2}y = 0 \Leftrightarrow y = 0 \Rightarrow x = 0\]

Với $x=y=0$ thay lên phương trình trên thỏa mãn.

Vậy nghiệm của hệ phương trình là: $\left( {x;y} \right) = \left( {0;0} \right)$