Tienes que usar el símbolo ^ para introducir los exponentes. Lo que menos puede pensar una persona es que los -1 que ponías eran exponentes.
¿El enunciado sería así entonces?
[x+y^(-1)] / [y+x^(-1)] = 13
x+y <= 80
Menos confuso habría sido si hubieras puesto:
(x + 1/y) / (y + 1/x) = 13
Bueno, lo intento resolver, si no es ese el enunciado ya me lo dirás. Poniendo denominadores comunes en ambos paréntesis tenemos
[(xy+1)/y] / [(yx+1)/x)] = x/y = 13
x=13y
x+y = 13y+y = 14y
14y<=80
y <= 80/14 = 5.71428
Luego y puede tomar valores entre 1 y 5 y los pares de números x, y son
13, 1
26, 2
39, 3
52, 4
65, 5
Y si el enunciado esta bien interpretado esa es la solución.