La definición de función de densidad marginal de Y1 es:
$$f_1(Y_1)=\int_{-\infty}^{+\infty}f(y_1,y_2)dy_2$$
Lo que pasa es que esa definición se complica cuando lo tenemos que traducir a la realidad. Los infinitos se transforman en expresiones que dependen de y1 o en el mejor de los casos son números fijos. Hay que mirar el dibujo para entender lo que vamos a hacer. Vamos a tomar el punto (y1,0) por ejemplo y tendremos que integrar a lo largo de la recta vertical que pasa por él y va entre AC y BC. Los puntos de intersección son y1-1 en BC, 1-y1 en AC
$$\begin{align}&f_1(y1)=\int_{y_1-1}^{1-y_1} 30y_1y_2^2 dy_2= 10y_1\left[ y_2^3 \right]_{y_1-1}^{1-y_1}=\\ &\\ &10y_1(1-3y_1+3y_1^2-y_1^3-y_1^3+3y1^2-3y_1+1)=\\ &\\ &20y_1-60y_1^2+60y_1^3-20y_1^3\end{align}$$
Bueno eso es cuando y1 está en el intervalo [0, 1]. Fuera de el vale cero.
Y la densidad marginal de Y2 es:
$$f_2(y_2)=\int_{-\infty}^{+\infty}f(y_1,y_2)dy_2$$
En este caso tomaremos un punto (0, y2) e integraremos la probabilidad sobre linea horizontal comprendidad entre AB y AC o BC según sea el caso.
Si 0 <= y2 <= 1 el corte con AC es (1-y2, y2)
Si -1 <=y2 <= 0 el corte con BC es (1+y2, y2)
$$\begin{align}&Si\; 0\le y_2\le1 \implies f_2(y_2)=\int_0^{1-y_2}30y_1y_2^2dy_1 =\\ &\\ &15y_2^2\left[ y_1^2 \right]_0^{1-y_2}=15y_2^2(1-2y_2+y_2^2)=15y_2^2-30y_2^3+15y_2^4\\ &\\ &Si -1\le y_2 \le0 \implies \text{Igual salvo el límite superior y queda}\\ &f_2(y_2)= 15y_2^2+30y_2^3+15y_2^4\\ &\\ &\text{Y en el resto de los casos }f_2(y_2)=0\end{align}$$
Y eso es todo.