$$\begin{align}&\frac{d}{dx} \left(\frac{ln(x^2+1)+x^3}{\sqrt{ x+1}}\right)\\ &\\ &\\ &\\ &\frac{\left(\frac{1}{x^2+1}·2x+3x^2\right)\sqrt{x+1}-\left[ln(x^2+1)+x^3 \right]\frac {1}{2 \sqrt{x+1}}}{x+1}=\\ &\\ &\\ &\\ &\frac{2\left(\frac{2x}{x^2+1}+3x^2\right)(x+1)-\left[ln(x^2+1)+x^3 \right]}{2(x+1)\sqrt{x+1}}=\\ &\\ &\\ &\\ &\frac{2\left[2x+3x^2(x^2+1)\right](x+1)-(x^2+1)\left[ln(x^2+1)+x^3 \right]}{2(x^2+1)(x+1)\sqrt{x+1}}=\\ &\\ &\\ &\\ &\frac{2\left[2x+3x^4+3x^2\right](x+1)-(x^2+1)ln(x^2+1)-x^5-x^3}{2(x^2+1)(x+1)\sqrt{x+1}}=\\ &\\ &\\ &\\ &\frac{4x^2+6x^5+6x^3+4x+6x^4+6x^2-(x^2+1)ln(x^2+1)-x^5-x^3}{2(x^2+1)(x+1)\sqrt{x+1}}=\\ &\\ &\\ &\\ &\frac{5x^5+6x^4+5x^3+10x^2+4x-(x^2+1)ln(x^2+1)}{2(x^2+1)\sqrt{(x+1)^3}}\end{align}$$
Y esa es la forma en que lo he dejado yo siempre. Hay quien lleva al extremo lo de racionalizar denominadores y escribiría:
$$\frac{\left[5x^5+6x^4+5x^3+10x^2+4x-(x^2+1)ln(x^2+1)\right]\sqrt{x+1}}{2(x^2+1)(x+1)^2}$$
Y eso es todo.