Fondo de inversión

Intentaré responderte por partes.
¿Qué fondo es mejor cancelar?
Sin conocer el importe de vuestras deudas, el tipo de fondo, las condiciones en que se contrató y su importe, es imposible responder a esta pregunta. Además, tienes que pensar que hay fondos que no son cancelables.
¿Pueden cancelarse sin su firma o necesita un acta de incapacitación?
Evidentemente, es necesaria su firma o la de su representante legal. Desconozco qué pasos hay que seguir para declarar incapaz a una persona. Esa es una cuestión más bien jurídica. En estos casos, será el propio banco el que te diga qué documentación tenéis que aportarles.
¿Si no lo cancelamos antes de que fallezca, hay algún problema en rescatar ese fondo?
El fondo es de tu madre. Si fallece, pasará a sus herederos. Es decir, cambiará la titularidad del fondo. La forma de cancelarlo es independiente de quién sea el titular, depende de lo que te he comentado antes.

No sé decirte cuál sería mejor sacar, habría que ver cada uno, la rentabilidad que da, si son garantizados, referenciados etc. En cuanto a lo de tu madre, lo legal sería que la declararan incapacitada y nombraran un representante, con esos papeles vas al banco, allí estudiarán que todo esté correcto y no habrá problemas para sacarlo, pero todo eso tardará unos días. Los fondos de inversión, de manera sencilla, son como si fueran una vivienda, son patrimonio, con lo que en caso de fallecimiento habría que recurrir a la herencia, como pasaría con una vivienda.
Así que si lo necesitas urgente, sacad el de tu hermano. Si no tenéis prisa, el de tu madre. Todo mirando bien los tipos de fondos que son y sus condiciones.