Ecuaciones de Segundo Grado

Tienes 2 opciones para realizarlo, para mi las mas conveniente es primero desarrollar los paréntesis y luego cambiar el signo.

$$\begin{align}&a.\\ &-(x+1)(x-1)=5+8(2-x)\\ &-(x^2-x+x-1)=5+16-8x\\ &-x^2+1=21-8x\\ &-x^2+8x-20=0/\cdot(-1)\\ &x^2-8x+20=0\end{align}$$

La segunda opción es ocupar el signo menos al principio pero solo te cambiaría el signo de uno de los paréntesis como si tuvieres un -1 delante.

$$\begin{align}&b.\\ &-(x+1)(x-1)=5+8(2-x)\\ &\\ &-1(x+1)(x-1)=5+8(2-x)\\ &(-x-1)(x-1)=5+8(2-x)\\ &(-x^2+x-x+1)=5+16-8x\\ &(-x^2+1)=21-8x\\ &-x^2+8x+1-21=0\\ &-x^2+8x-20=0/\cdot(-1)\\ &x^2-8x+20=0\end{align}$$

Como vez nos da exactamente lo mismo de ambas formas, pero la que yo mas uso es la primera forma, me resulta mas conveniente y no me complico tanto, lo dejo a tu elección.

No, el signo - de fuera solo te cambiará los signos internos de uno de los dos paréntesis.

Si lo simplificas a un producto de factores simples sería:

-ab = (-a)b

-ab = a(-b)

y la traducción con factores compuestos de sumas como los que tienes sería:

-(x+1)(x-1) = [-(x+1)](x-1) = (-x-1)(x-1) = -x^2 + x - x + 1 = -x^2 + 1

o este

-(x+1)(x-1) = (x+1)[-(x-1)] = (x+1)(-x+1) = -x^2 + x - x + 1 = - x^2 + 1