Tiff o eps

Las ventajas del eps o el tif, antiguamente eran en "velocidad de ecidion" del programa que usas para "page layout" (composición de páginas, como Quark, Pagemaker). El eps muestra una version en baja para que puedas manipular el documento donde lo has pegado. El tif debe ser leído completamente, y antiguamente el programa se lo "tragaba" todo y era muy pesado. Actualmente, los programas como el Quark y Pagemaker si lo leen todo, pero generan una imagen en baja para acelerar el "redibujado" de cada página. Personalmente, con los equipos de hoy en día, yo prefiero TIF, excepto si voy a usar una imagen de cientos de megas, y no requiero interactuar con la foto. Con iteractuar me refiero a que programas como Corel, Illustrator e In-Design, trabajan con transparencias y necesitan la imagen completa en memoria para procesar los efectos. No se como has notado que el eps no te pixela tanto.. ya que ambos formatos conservan la misma resolución. Puede ser que lo notas "no tan pixelado" como lo que veías en pantalla (el preview en baja que incluye el eps).
El retoque de imágenes es una ciencia. Hay miles de factores que cuidar para conservar el 99% de la saturación, matiz y profundidad de una imagen, pero solo te los dará la practica. Un buen consejo para quien no tiene experiencia en ese área y se maneja por lo que ve, es tener el monitor más o menos calibrado con los resultados (otra ciencia aparte) entonces trabajar las fotos en RGB, porque muchos de los efectos como brillo y contraste, se calculan en RGB y no dan el mismo resultado (algunos ni están disponibles) cuando los aplicas en CMYK; o puedes arruinar la armonía de los colores o las sombras... ya que el negro ya esta separado. Busca en internet información acerca de "Separación de colores para fotocromia, UCR, GCR, undercolor removal"... si tienes ayuda, manuales o libros de photoshop busca en "Separación Setup" (separación de colores). Te sera útil saber las diferentes maneras de separar una foto, para darte cuenta cuando es conveniente retocar las curvas u otra cosa en CMYK y cuando en RGB. Básicamente cuando los canales individuales se ven como en negativo, es porque fue separada para que debajo de la tinta negra no haya de las demás, y si bajas el brillo el photoshop quitara negro, dejando un hueco gris. En ese caso te conviene pasarla a RGB. Si los canales se ven individualmente como copias del original en escala de grises, un poco más claras u oscuras, entonces la puedes retocar en CMYK.
Al final conviertes la imagen a CMYK si lo necesitas. Y si usas el perfil de color CMYK de pre-impresión de tu región (Euro, US, Japan) en Photoshop, te aseguraras que lo que ves en pantalla, se separara en CMYK mantiendo una buena saturación al momento de imprimir en offset u otro sistema de CMYK.
Para las fotos que solo necesitan un ajuste de gamma (scanner que escanea oscuro, digital que fotografío muy claro u oscuro) yo siempre uso solo curvas.
Suerte.