Leer archivos

Albertoroale,
La clase java. Io. File tiene un método que nos permite obtener el listado de archivos dentro de un directorio. Recorrer cada archivo depende del tipo que sea (texto, binarios, ...).
Te pongo un ejemplo para obtener todos los nombres de los archivos que estén en el directorio que le paso como parámetro al programa... teniendo esos nombres, puedes abrir el archivo y recorrerlo:
import java.io.File;

/**
 *    Clase que nos permite leer el contenido de todos los ficheros de un
 * directorio, pasado por parámetro
 *
 * @author gomecan
 * @version 0.1
 */
public class LeerDirectorio {
    public static void main(final String[] args) {
        final String nombreDirectorio = args[0];
        final File directorio = new File(nombreDirectorio);
        if (directorio.exists() && directorio.isDirectory()){
            final String[] nombreFicheros = directorio.list();
            for (final String iter : nombreFicheros){
                // TODO: Aquí puedes leer el fichero y recorrerlo
                // Debes comprobar que no se trata de otro directorio, si te hace falta
                System.out.println(iter);
            }
        }
        else{
            System.out.println("Error: " + nombreDirectorio + " no existe o no corresponde a un directorio");
        }
    }
}