Para poner exponentes debes usar el símbolo ^. Yo asumo que el coeficiente luego de la "x" es exponente pero confirmalo. Igualmente en la suma y resta de factores deberías usar paréntesis para separar los términos.
Por las dudas verifica que la función que yo escribí sea la que vos consideraste
$$\begin{align}& a)\ f(x) = (x^2+1)(x^4+2)\\&f'(x) = 2x(x^4+2) + (x^2+1)4x^3 \text{ (puedes dejarlo así o desarrollar los productos)}\\&f'(x) = 2x^5+4x + 4x^5+4x^3 = 6x^5+4x^3+4x\\&b)f(x) = \frac{x^2+3x+1}{x^4+2x+3}\\&\text{Acá hay dos opciones, que son equivalentes, una "de memoria" y la otra es recordar las propiedades y escribir el cociente como productos, te dejo las dos y elige la que te guste (a mí en particular me gusta la segunda pues es una fórmula menos para recordar)}\\&Forma\ 1:(cociente)\\&\text{Primero recordemos que:}\\&g(x) = \frac{u}{v}\\&g´(x) = \frac{u'}{v}-\frac{u \cdot v'}{v^2} = \frac{u' \cdot v - u \cdot v'}{v^2}\\&\text{Ahora sí, volviendo al ejercicio}\\&f(x) = \frac{x^2+3x+1}{x^4+2x+3}\\&f'(x) = \frac{(2x+3)(x^4+2x+3)-(x^2+3x+1)(4x^3+2)}{(x^4+2x+3)^2} \text{ (te dejo desarrollar estos productos, en caso que quieras hacerlo)}\\&\\&Forma\ 2: (producto)\\&f(x) = \frac{x^2+3x+1}{x^4+2x+3}=(x^2+3x+1)(x^4+2x+3)^{-1}\\&f'(x) = (2x+3)(x^4+2x+3)^{-1} + (x^2+3x+1)(-1)(x^4+2x+3)^{-2}(4x^3+2)=\\&\frac{ (2x+3)}{(x^4+2x+3)} -\frac{ (x^2+3x+1)(4x^3+2)}{(x^4+2x+3)^{2}}\\&\text{Nuevamente te dejo desarrollar las cuentas y verificar que coincide con el anterior}\end{align}$$