Supongo que todo lo de antes de la / es numerador y todo lo de detrás es denominador. Pero para que eso estuviera bien escrito tendrías que haber puesto entre paréntesis ambos.
Lo más natural parece empezar usando la fórmula del coseno del angulo doble que dice
cos(2a) = cos^2(a) - sen^2(a)
Aplicándolo a cos(2x^2) tendremos
[cos(x^2) - cos^2(x^2) + sen^2(x^2)] / [1-cos(x^2)] =
Sacamos factor común cos(x^2)
{cos(x^2)[1-cos(x^2)] + sen^2(x^2)} / [1-cos(x^2)] =
Simplificamos en el primer sumando
cos(x^2) + sen^(x^2) / [1-cos(x^2)] =
ponemos sen^2(x^2) como 1- cos^2(x^2)
cos(x^2) + [1-cos^2(x^2)] / [1-cos(x^2)] =
Usamos el famoso producto a^2 - b^2 = (a+b)(a-b)
cos(x^2) + [1+cos(x^2)] [1-cos(x^2)] / [1-cos(x^2)] =
Simplificamos
cos(x^2) + 1 + cos(x^2) =
1+2cos(x^2)
Y ahora ya no tiene ninguna dificultad calcular el límite
lim x-->0 de 1+2cos(x^2) = 1+2·1 = 3
Y eso es todo.