A mi me gusta más la serigrafía que el vinilo, simplemente por el deterioro de ambos, que es bastante más lento y uniforme en la serigrafía, aunque resulta bastante más elevado de precio. Si a ti te interesa el vinilo no tienes problema, no hay ninguna restricción en el tema de los colores, ya que se reduce a una impresión CMYK sobre una capa de vinilo que luego se transfiere a la prenda en cuestión. Respecto a los vectores siempre es mejor vectorizar la imagen que imprimir un mapa de bits, ya que nos evitamos la pixelización y artefactos en los colores.
Respecto a la pregunta sobre como entregar el original puedes hacer dos cosas, la primera es entregar el formato nativo de Illustrator, en cuyo caso yo lo que hago es contornear los trazados para evitarme sorpresas con los grosores y sobre todo, lo más importante, si en la imagen hay texto convertirlo a trazado. La segunda es exportar la imagen a .pdf, y te evitas muchos problemas. Los contornos finos no suponen ningún problema, ni la cantidad de colores a utilizar, aunque a mi personalmente no me gusta meter degradados en imágenes para serigrafía, pero para vinilos no tienes ningún problema, lo que si te puedo aconsejar es que trates de evitarlos, ya que para ropa no quedan muy bien, si te fijas en la moda, veras que casi siempre se utilizan colores planos, sin degradados.
En cuanto a la técnica de impresión te dejo un par de referencias que te pueden aportar mucho, ya que explicarlo aquí sería demasiado extenso.
Serigrafía:
http://es.wikipedia.org/wiki/Serigraf%C3%ADaVinilo:
http://www.camisetas.info/Guias-PDF/Guia-Camisetas-Vinilo.pdfEspero haberte servido de ayuda, si tienes más preguntas no dudes en plantearlas.