Integral

Vamos a intentarlo, de momento tiene todas las pintas de que hay que hacerlo por partes.
Lo malo es que aquí no se pueden escribir bien las expresiones matemáticas. Usaré I(f(x)dx) para referirme a una integral y ya verás que los denominadores van a ser algo confusos con la simple barra /. Lo mejor es que tu lo transcribas a papel si no lo ves claro.
La teoría de la integración por partes dice I(udv) = uv - I(vdu)
Solo hay que tomar los u y dv adecuados dentro de la integral que nos dan y calculamos du y v:
u = x^2                  |   du = 2xdx
dv = sen3x dx        |    v = - (cos3x) / 3
Hasta aquí creo que lo habrás entendido, la integral de sen3x era casi inmediata:
Entonces:
I(x^2·sen3x·dx) = - (x^2·cos3x) / 3 - I(-(2x·cos3x)/3·dx) =
- (x^2·cos3x) / 3 + (2/3) I(x·cos3x·dx)
Calculamos aparte I(x·cos3x.dx) por partes, de igual forma que antes:
u = x                 |  du = dx
dv = cos3x·dx   |  v = (sen3x) / 3
I(x·cos3x.dx) = (x·sen3x) / 3 - I((sen3x)/3·dx=
(x·sen3x) / 3 - (1/3)(-cox3x)/3 =
(x·sen3x) / 3 + (cos3x)/9
Lo juntamos todo y queda:
I(x^2·sen3x·dx = - (x^2·cos3x) / 3 + (2/3)[(x·sen3x) / 3 + (cos3x)/9] =
- (x^2·cos3x) / 3 + (2x·sen3x) /9 + (2cos3x)/27 =
= (6x·sen3x + (2-9x^2)cos3x) / 27 + C

Y esa de ahí arriba es la repuesta.
Me voy a permitir derivar sin explicaciones y rápidamente para comprobar que está bien...
(1/27) (6sen3x + 18xcos3x - 18xcox3x - 3(2-9x^2)sen3x) =
(1/27)(27x^2sen3x) = x^2sen3x
... si, esta bien.
Y eso es todo. Espero que te haya servido y hallas aprendido, simplemente era aplicar dos veces la integración por partes. No olvides puntuar y cerrar la pregunta.