Pienso que el mejor resultado (visualmente hablando), seria con planos mapeados con texturas de hojas reales (varios mapas), con su canal alpha para la opacidad. Si quieres curvarlas te tocaría hacerte una spline con la forma aproximada de la hoja y pasarla a editable poly, para poder controlar la triangulacion, mapear plano, y bend, en ese orden. Los pivotes en la "raiz" de las hojas. Si te curras más o menos las splines luego podrías usar mapas de sombras en vez de raytraces que son algo más rapidillas :) Para colocarlas en las ramas yo usaría un scatter, haciendo un detach de las partes de las ramas donde quisiera las hojas, para usarlo de "objeto de distribución", y las distintas hojas orientadas según su eje Z, más un poco de ángulos aleatorios. El truco de todas formas está en hacer un "potrollon" de hojas distintas, para que el resultado no sea demasiado uniforme. Si la toma va a ser un poco alejada, también puedes (ademas de todo lo anterior) repartir las hojas dentro del volumen de un objeto "esférico abollao" (esfera->ruido->meshsmooth->optimize), con varios sistemas de partículas (pocas partículas por sistema), usando cada tipo de hoja como partícula para cada uno (todo esto es para rellenar el volumen un poco más), claro que como así no controlas donde se colocan las hojas, no puedes acercarte mucho, o cantará por bulerias. Espero que esto ayude, si no, cuéntame cual es el problema y lo intentamos de otra forma.
Se me olvidaba! El "toque" final, materiales 2 caras y mapas distintos (en realidad el mismo, retocado en photoshop) para el haz y el envés de las hojas. El objeto "esfera abollao", obviamente oculto o marcado como "no renderizable". Lo dicho, si te vale bien, si no, me lo cuentas.