En el caso n=m no hace falta más, el máximo común divisor es x^n-1
Si n distinto de m.
Además supondremos n>m sin perder generalidad
El máximo común divisor de dos polinomios es el mismo que el de uno de ellos y el resto de la división del otro entre ese primero
mcd(x^n - 1, x^m - 1) = mcd[x^m -1, resto de la división (x^n -1) / (x^m -1) ]
Veamos cual es ese resto
$$\begin{align}&x^n-1=x^{n-m}(x^m-1)+x^{n-m}-1\\ &\end{align}$$
Eso lo hallá haciendo el algoritmo de la división de polinomios, puedes hacerlo tu que aquí es muy difícil de escribirlo. O simplemente comprueba que eso que he escrito es verdad, es muy sencillo.
El resto es x^(n-m) - 1 luego
mcd(x^n -1, x^m - 1) = mcd(x^m -1, x^(n-m) -1)
Si conoces el algoritmo de Euclides para hallar el mcd de números naturales te darás cuenta que la cadena de exponentes de x es la misma que usarías para calcular el mcd de n y m ya que mcd(n, m) = mcd(m, n-m)
Y cuando se hayan completado todos los pasos llegaremos a
mcd(x^[mcd(n,m)] - 1 , x^[mcd(n,m)] - 1) = x^[mcd(n,m)] - 1
Luego ese es el máximo común divisor.
Un poco complicado este. Espero que hayáis dado la teoría necesaria para que lo puedas entender.