$$\begin{align}& \end{align}$$
¡Hola Máximo!
·
Eso no parece una ecuación diferencial. Em todo caso podría ser la ecuación característica de una ecuación diferencial lineal de orden 4.
En todo caso pienso que lo que necesitas es calcular las raíces de esa ecuación.
$$\begin{align}&\text{Dada una ecuación}\\&\\&a_nx^n+a_{n-1}x^{n-1}+···+a_1x+a_0=0\\&\\&\text {crea la variable}\\&\\&>>p=[a_n\quad a_{n-1}\quad a_{n-2}\quad ...\quad a_0]\\&\\&\text{no olvides poner todos los coeficentes,}\\&\text{ aunque sean 0. Y luego usa}\\&\\&>>x=roots(p)\\&\\&\\&\text{En tu caso será}\\&>>p=[1\quad -20\quad 158\quad -580\quad 841]\\&>>x=roots(p)\end{align}$$
Y no te puedo dar la salida de Mathlab porque no lo tengo instalado aquí, el ordenador donde lo tengo está medio muerto y no ha vuelto a ser el mismo desde el día que lo instalé, con los más de 100000 ficheros y no sé cuantos gigas que ocupaba ese Mathlab, juré no volver a instarlo en ningun ordenador más. Puedes usar otras opciones a Mathlab como la página Wolfram Alpha o el programa Maxima.
Además si usas Wolfram Alpha metiendo
k^4 - 20k^3 + 158k^2 - 580k + 841=0
http://www.wolframalpha.com/input/?i=k^4+-+20k^3+%2B+158k^2+-+580k+%2B+841+%3D+0
tendrás muchas más información porque te dice
k^4 - 20k^3 + 158k^2 - 580k + 841 = (k^2-10k+29)^2
y las soluciones que son
k = 5 + 2i
k = 5 - 2i
Obviamente cada una de ellas es doble por ser un polinomio elevado al cuadrado, vamos que la factorización sería
(x-5-2i)^2·(x-5+2i)^2
Nota: El enlace a Wolfram Alpha no funciona pinchando por incapacidad de esta página, deberás copiar la dirección en tu navegador si quieres ver la página.