Ecuaciones de 2° grado con raíz

Entre el tercero y cuarto paso 'olvidás' el cuadrado...

x + 2 = 1x² -2 * 1x * 3 + 3² (ese paso tuyo está bien...)

x + 2 = x² - 6x + 9

0 = x² - 6x + 9 - x - 2

0 = x² - 7x + 7

y eso tiene la fórmula de la "resolvente"...

$$\begin{align}&{\color{blue}a}x^2+{\color{red}b}x+{\color{green}c}=0\\&x_{1,2}=\frac{-{\color{red}b}\pm \sqrt{{\color{red}b}^2-4\cdot {\color{blue}a} \cdot {\color{green}c}}}{2\cdot {\color{blue}a}}\\&\text{En este caso...} a= 1, b=-7, c=7\\&x_{1,2}=\frac{{-\color{red}{(-7)}}\pm \sqrt{{\color{red}{(-7)}}^2-4\cdot {\color{blue}1} \cdot {\color{green}7}}}{2\cdot {\color{blue}1}} =\\&\frac{7\pm \sqrt{49-28}}{2}=\frac{7\pm \sqrt{21}}{2}=\end{align}$$

Inicialmente tenés 2 valores posibles, pero como todo comenzó con elevar al cuadrado la expresión, tenés que validar al final que todas las soluciones sirvan (por lo que seguramente eso descarta el otro valor)

Salu2