No poseo una ps3 como para guiarte exactamente, pero hasta donde estoy enterado, el aparato lee archivos avi y mp4. Sin embargo no conozco la resolución que maneja (tamaño de pantalla).
En cuanto a los programas para convertir hay varios gratis y muy buenos, pero deberás aprender a manejarlos para obtener buenos resultados. Eso tomará un poco de tiempo, pero no es algo imposible.
El programa mas sencillo para lo que buscas se llama 'Free video converter'. Lo puedes encontrar aquí: <a>http://www.koyotesoft.com/video-software/free-video-converter.html</a>
Otro de mejor calidad y que tiene mas opciones, que sirven para mejores resultados, se llama 'Format Factory'. También gratis y con opción en español.
Link aquí: <a>http://www.pcfreetime.com/download.html</a>
------------
Intenta procesar videos cortos primero. Cualquier musical de 5 minutos sería ideal para probar los resultados.
Cambiales las opciones y toma nota de los resultados. No olvides representar el cambio de cada video en el nombre que le asignas y así no te equivocaras. Aquí un ejemplo:
Digamos que le pusiste lo siguiente al video: audio Mp3_44100 192 cbr stereo... video 1280x720, Xvid, 850kb/es, 23.976 frames y 2pass.
El nombre podría ser:
Musical_720p_xvid_850_23976_2p_Mp3_44100_192_cbr.avi
Como en todo lo nuevo, deberás tener paciencia y mucho orden.
Ssaludos y suerte.
L.