Para hacerte una idea de estos problemas podrías dibujar la gráfica. Entonces verías que hay unas partes de la función por encima del eje X y otras por debajo. En este caso te piden que la función sea menor que cero, luego la solución son los trozos donde la función está por debajo del eje X. Y si la función es continua, los trozos positivos y negativos son intervalos y entre cada uno de ellos la función pasa por el cero.
Nuestra función en concreto es una parábola, habrás dibujado muchas en tus estudios. Es una U y la parte negativa (si la hay) estará entre las dos raíces de la ecuación. Luego vamos a calcular las raíces de x^2 - x - 1 = 0
$$\begin{align}&x=\frac{1\pm \sqrt{1+4}}{2}\\ &\\ &x_1=\frac{1-\sqrt 5}{2}\approx -0.6180339887\\ &\\ &x_2=\frac{1+\sqrt 5}{2}\approx 1.618033989\end{align}$$
Esto divide la recta real en tres intervalos, ya sabemos que el que vale es el del medio, pero lo haremos como si no supiéramos nada y probaremos con un valor de cada intervalo que es como se resuelve cualquier función
(-oo, 1-sqrt(5)/2) tomamos x=-1 entonces f(-1)=1+1-1 = 1 > 0 NO sirve
(-1-sqrt(5)/2, -1+sqrt(5)/2) tomamos x=0 entonces f(0) = -1 <0 SIRVE
(-1+sqrt(5)/2, +oo) tomamos x=2 entonces f(2) = 4-2-1 = 1 >0 NO sirve
Luego la respuesta es
$$x \in\left(\frac{-1-\sqrt 5}{2},\frac{-1+\sqrt 5}{2} \right)$$
Y eso es todo.