¿Cómo resolver este ejercicio por el método de completar cuadrados?

Pues ya te están diciendo como debe quedar la expresión... vamos a operar para llegar a algo 'parecido' a eso:

$$\begin{align}&P(x,y) = 18x^2-4y^2-12x-24y+6\\&Reacomodamos\\&=18(x^2-\frac{2}{3}x)-4(y^2+6y)+6\\&\text{Sabemos que }(a+b)^2=a^2+2ab+b^2, \text{ así que agregamos lo que falta para tener la expresión}\\&=18(x^2-\frac{2}{3}x+\frac{1}{9}-\frac{1}{9})-4(y^2+6y+9-9)+6\\&Reacomodo\\&=18(x^2-\frac{2}{3}x+\frac{1}{9})-\frac{18}{9}-4(y^2+6y+9)+36+6\\&=18(x-\frac{1}{3})^2-4(y+3)^2+40\end{align}$$

Como ves coinciden todos los valores

Salu2