La integral doble entre -infinito e infinito de la función de densidad debe ser 1.
Como solo hay probabilidad no nula entre -N y N podemos restringir la integral a esa zona [-N, N] para la x, y para la y por ser mayor que la x se debe restringir a [x,N]
$$c\int_{-N}^N\int_x^N|xy|\;dy\,dx = 1$$
Para quitar el módulo dividiremos la integral en varios trozos y en cada uno pondremos la integral de xy o -xy de forma que el integrando sea positivo de la misma forma que lo era el valor absoluto.
Cuando x,y<0 tenemos |xy| = xy
Cuando x <=0, Y>0 tenemos |xy| = -xy.
Sacaremos el signo - fuera de la integral en vez de dejarlo dentro y así la integral es siempre la misma
Cuando x,y>0 tenemos |xy| = xy
$$\begin{align}&c\int_{-N}^N\int_x^N|xy|\;dy\,dx=\\ &\\ &\\ &c\left(\int_{-N}^0\int_x^0xy\;dy\,dx-\int_{-N}^0\int_0^N xy\;dy\,dx+\int_0^N\int_x^Nxy\;dy\,dx \right)=\\ &\\ &\\ &\\ &c\left(\int_{-N}^0x \left.\frac {y^2}{2} \right|_x^0dx-\int_{-N}^0 x\left.\frac {y^2}{2} \right|_0^Ndx+\int_0^N x\left.\frac {y^2}{2} \right|_x^N\right)=\\ &\\ &\\ &c\left( \int_{-N}^0-\frac{x^3}{2}dx-\frac{N^2}{2}\int_{-N}^0xdx+\int_0^N \left(\frac{N^2x}{2}- \frac{x^3}{2}\right)dx \right)=\\ &\\ &\\ &c\left(-\left.\frac{x^4}{8}\right|_{-N}^0-\frac{N^2}{2}\left.·\frac{x^2}{2}\right|_{-N}^0+\left[\frac{N^2}{2}·\frac{x^2}{2}-\frac{x^4}{8} \right]_0^N \right)=\\ &\\ &c\left(\frac{N^4}{8}+\frac{N^4}{4}+\frac{N^4}{4}-\frac{N^4}{8} \right)=\\ &\\ &c·\frac {N^4}{2}=1\\ &\\ &\text{Luego}\\ &\\ &c = \frac 2{N^4}\end{align}$$
Vamos con las marginales.
$$\begin{align}&f_x(x)=\frac{2}{N^4}\int_{x}^{N}|xy|dy\\ &\\ &\\ &Si\; x \le 0\\ &\\ &f_x(x)= \frac{2}{N^4}\left(\int_x^0xy\; dy-\int_{0}^Nxy\;dy \right)=\\ &\\ &\\ &\frac{2}{N^4}\left(x \left.\frac{y^2}{2}\right|_x^0-x \left.\frac{y^2}{2}\right|_0^N \right)=\\ &\\ &\\ &\frac{2}{N^4}\left(-\frac{x^3}{2}-\frac{xN^2}{2} \right)=-\frac{x(x^2+N^2)}{N^4}\\ &\\ &\\ &\\ &\\ &\\ &\\ &Si\; x\gt 0\\ &\\ &f_x(x)=\frac{2}{N^4}\int_x^Nxydy=\frac{2}{N^4}·\left.x \frac{y^2}{2} \right|_x^N=\\ &\\ &\\ &\frac{xN^2}{N^4}-\frac{x^3}{N^4}=\frac{x(N^2-x^2)}{N^4}\\ &\\ &\\ &\\ &\text{Si se quiere se pueden unificar las dos en una}\\ &\\ &f_x(x)=\frac{|x|N^2-x^3}{N^4}\end{align}$$
Y el ordenador ya no puede con más uso del editor de fórmulas se está bloqueando. Mándame una pregunta nueva para contestar las dos cosas que faltan. Antes puntúa esta