Vamos con ello.
a) x valdrá entre 0 y 1/2 no hay problemas
y puede valer sede x-1 hasta 1-x
por ejemplo
para x=0 ==> -1 <=y <= 1
para x=1/4 => -3/4 <=y <= 3/4
para x=1/2 ==> -1/2 <=y <= 1/2
Como en todos los casos si aplicamos al aplicar el límite superior 1-x sobrepasamos 1/2 habrá que poner 1/2 como límite superior para y
$$\begin{align}&F\left(\frac 12,\frac 12\right)=\int_0^{1/2}\int_{x-1}^{1/2}30xy^2\;dy\,dx=\\ & \\ & \int_0^{1/2} 10xy^3|_{x-1}^{1/2}dx=\\ & \\ & 10\int_0^{1/2} \left(\frac x8 -x(x-1)^3\right)dx=\\ & \\ & 10\int_0^{1/2}\left(\frac x8-x^4+3x^3-3x^2+x \right)dx\\ & \\ & 10\left[\frac{x^2}{16}-\frac {x^5}{5}+\frac{3x^4}{4}-x^3+\frac {x^2}2 \right]_0^{1/2}=\\ & \\ & 10\left( \frac 1{64}-\frac 1{160}+\frac{3}{64}-\frac 18+\frac 18 \right)=\\ & \\ & 10\left(\frac 1{16}-\frac 1{160} \right)=\frac {90}{160}=\frac 9{16}\end{align}$$
b)
Variando x entre 0 y 1/2 el límite superior para y dado por 1-x varía entre 1 y 1/2 luego es menor que el valor 2 que nos dan para la y, hay que usar el limite superior menor y por eso habra que usar 1-x
$$\begin{align}&F\left(\frac 12,2\right)=\int_0^{1/2}\int_{x-1}^{1-x}30xy^2\;dy\,dx=\\ & \\ & \int_0^{1/2} 10xy^3|_{x-1}^{1-x}dx=\\ & \\ & 10\int_0^{1/2} x\left((1-x)^3-(x-1)^3\right)dx=\\ &\\ &10\int_0^{1/2}x\left( (1-x)^3+(1-x)^3 \right)dx=\\ &\\ &20\int_0^{1/2}(x-3x^2+3x^3-x^4)dx=\\ &\\ &20\left[\frac{x^2}{2}-x^3+\frac{3x^4}{4}-\frac{x^5}{5} \right]_0^{1/2}=\\ &\\ &20\left(\frac 18-\frac 18+\frac 3{64}-\frac{1}{160} \right)=\\ &\\ &20\left(\frac{3}{64}-\frac{1}{160} \right)\\ &\\ &20\left(\frac{30-4}{640}\right)=\frac {520}{640}=\frac {13}{16}\\ & \\ &\end{align}$$
c) Con la notación que hemos empleado es P(X>Y)
Haremos variar x entre 0 y 1
Y podrá variar entre X-1 y 1-X pero solo nos sirve si eso es menor que X
X-1 < X sempre, luego el límite inferior sirve
Pero para el límite superior
1-X < X ==> 1 < 2X ==> X > 1/2
El limite superior 1-X hay que usarlo cuando X>1/2
Cuando X<1/2 el límite superior deberá ser X
$$\begin{align}&P(X\gt Y) = \int_0^{1/2}\int_{x-1}^x 30xy^2\;dy\,dx+\\ & \\ & \int_{1/2}^1\int_{x-1}^{1-x}30xy^2\;dydx=\end{align}$$
Hay mucho trabajo, te lo dejo como ejercicio, la solución es
15/32 + 3/16 = 21/32
Y eso es todo.