¿Cómo puedo crear un archivo de película con buena calidad y que no ocupe mucho espacio en memoria?

Desgraciadamente calidad (y tampoco hablamos de nada profesional precisamente) implica capacidad pues lo contrario es compresión y por tanto perdida de información y de calidad de la película. El formato avi es el mejor que puedes obtener a partir de una captura de una cámara digital minidv y luego cuando terminas la edición al pasarla a formato dvd obtienes en general buena calidad, ya digo nada profesional por supuesto pues las cámaras hoy en día no dan esa calidad, pero desde luego montajes caseros más o menos buenos sí que se obtienen. No creo que diez gigas sea un archivo enorme si tenemos en cuenta que de eso se trata precisamente, y por eso se requiere tengamos un buen disco duro de espacio y a ser posible particionado.
Yo creo que lo que deberías hacer es que ya que editas con pinnacle deberías seguir el proceso de creación de disco con el mismo pinnacle, y así podrías obtener no un fichero mpg o avi como dices, o sea un vcd o un svcd, sino más bien un dvd con toda la calidad que da ese formato, calidad relativa como siempre.
Si no sabes como hacerlo me lo comentas pero si has llegado hasta el proceso de edición no creo tengas problema en seguir con la pestaña de pinnacle HACER VIDEO, y allí CREAR DISCO (DVD).