Necesito saber como poder concatenar una fórmula.

En principio la función CONCATENAR o el operador ampersand (&) hacen eso: devolver una única cadena de texto (string) a partir de varios elementos.
De todos modos, a juzgar por el resto de tu pregunta, deberás anidar esa función dentro de otra que convierta ese texto en una dirección válida: INDIRECTO()
Supongamos que en la celda B2 está la letra del disco y en B3 el nombre de la carpeta. En B4 tienes el nombre del archivo, en B5 el de la hoja y en B6 al celda o rango a considerar.
La siguiente fórmula traerá el valor que está en esa dirección:
=INDIRECTO("'"&B2&":\"&B3&"'["&B4&".xls]"&B5"&'!"&B6)
De forma tal que, concatenados, dentro del paréntesis tendrás:
=INDIRECTO('C:\Mis Documentos\[Archivo.xls]Hoja1'!$D$4)
Efectivamente, esto toma el contenido de la celda D4 de la hoja de ese archivo. Claro, con una condición "sine qua non": Ese archivo DEBE estar ABIERTO al momento de obtener el dato. Caso contrario obtendrás #REF! En la celda.
Desde luego la fórmula funciona perfectamente cuando quieres leer datos del mismo archivo en función a las variables ingresadas.
Así:
=INDIRECTO("A1") es equivalente a =A1...
La ventaja es que el dato dentro del paréntesis puede surgir del contenido de otra celda.
Espero que esto ayude a resolver tu problema.
Si así fuera, agradeceré un comentario y que la finalices.
(Recuerda que mantener cierto número de respuestas pendientes impide que otros usuarios puedan consultarme)
Aclarando qué entendí mal o qué faltó.

Muchas gracias fernando por tu aclaración de la duda que tenia, pero quisiera saber si no hay una manera de hacer eso, ¿pero sin tener que estar abierto el archivo de donde se extraen los datos? Ya que no solamente tomo datos de un solo archivo, sino que de varios. ¿O tendría que usar un macro?
De antemano gracias.
Roel