Matrices Gigantes

Contestando a tu pregunta, no te recomiendo que crees un área de memoria tan grande en un equipo con tan poca memoria ram, puedes crearla aumentando el swap al tamaño que necesitas, (emulación de memoria RAM que se escribe en disco duro), te recomiendo que crees directamente un fichero en disco asignando el tamaño que necesitas, después podrás acceder directamente a las posiciones del mismo con tus datos.
A la segunda pregunta, las ventanas las crea Windows directamente, las MFC son un interface simplificado al API (Aplication Programing Interface) de Windows, por lo que es posible crearlas sin recurrir a las mfc (son dialog box con el estilo extendido TOOLWINDOW), te recomiendo que consigas el Microsoft Windows SDK y el MSDN, el primero trae multidud de ejemplos de creación de ventanas, controles de windows, APIS específicos, etc y en el segundo puedes encontrar gran cantidad de información técnica, artículos y ejemplos sobre MFC y programación en Windows.
Un Saludo, no dudes en escribirme para cualquier duda
José Luis Rey

He visto tu pregunta y las respuestas de algunos expertos te han aportado. Mi granito de arena no tiene la misma tendencia que la del resto, me explico.
Es una tontería en pensar ampliar la memoria física o virtual para solucionar este problema. Una pregunta que quiero que te respondas, ¿cómo funciona la paginación por demanda (memoria virtual)? Pues mi solución va por ahí. No sé la finalidad de los cálculos que vas a aplicar sobre tu macromatriz, pero si a priori supieras cuales son, pues podrías crearte una rutina que trabajando con submatrices (asequibles) obtenidas de la grande y realizando tus cálculos llegarías a la solución final.
Por tanto mi solución es dividir la macromatriz en matrices de tamaño moderado y trabajar sobre estas, una vez calculadas agruparlas y así obtener la solución final. Nunca pienses en una única vía para tu solución (que en este caso es un poco bestia), suerte y espero que te halla servido de ayuda.

Te voy a comentar como lo veo, aunque no lo tomes al pie de la letra.
Yo te comento y luego, tú, que sabes al problema que te enfrentas sabrás
si es útil lo que te comento.
Las cuentas que he realizado de lo que ocupa una matriz de
10.000x10.000 de tipo double, me sale un resultado distinto al tuyo.
Un dato tipo double ocupa 8 bytes y de tipo float 4 bytes.
10.000x10.000=10^8 bytes. Esto sería si cada dato o elemento de
la matriz ocupara un byte. Como estamos con una matriz de double
( 8 bytes), hacemos 8*10^8 bytes ocupa la matriz. Ahora pasamos
este valor a Megabytes.
Siguiendo una regla de tres:
1024 bytes ----- 1Kbyte
8*10^8bytes--- x
x = 8*10^8/1024 = 781250 Kbytes.
Y ahora de Kbytes a megas.
1024 Kbytes ----- 1Megabyte
781250 ----- x
x = 781250 / 1024 = 762.93 Megabytes. ==> 763 Mb.
Entonces tenemos una matriz que ocupa 763 megas. ¿Y qué maquina
normalita tiene ese cantidad de RAM? No he visto ninguna.
Entonces lo único que se ocurre es:
1.- ¿Es posible partir ese matriz, en matrices más pequeñas y luego
combinar los resultados de esas matrices pequeñas?
2.- Crear en disco un fichero binario que represente la matriz. Esto
haría que los cálculos fuesen mucho más lento. Sería:
...
// crear matriz gigante.
fp=fopen("matriz.dat","wb");
for(i=0;i<10000;j++)
{
for(j=0;j<10000;j++)
{
fwrite(&data,sizeof(double),1,fp);
}
}
fclose(fp);
Para acceder a un elemento.
double getMatrixData(int i,int j,FILE *fp)
{
double data;
long offset;
// i represnta las filas y j las columnas
// ===> j
// -------------------------
// |
// i |
// |
offset = sizeof(double)*(i*10000)+j;
fseek(fp,SEEK_SET);
fread(&data,sizeof(double),1,fp);
return data;
}
Para aumentar la velocidad habría que optimizar el rendimiento posiblemente
con una matriz intermedia en memoria. Como si puera un matriz cache.
Y si se realizan cálculos que durante un tiempo son independientes entre si.
Realizar eses cálculos con programación multithread ( concurrente ). Es
decir, tener varios hilos de ejecución para realizar los cálculos.
Respecto a lo la toolbar, todo lo que he vista usa mfc. Pero si
encontró alguna forma ya te lo comentaré.

Antes que nada perdona por el retraso.
Bueno tu problema es uno de los más gordos de la informática. Ante de abordarlo debes evaluar el tanto por cien de elementos de la matriz que van a ser 0. Me explico, en muchos cálculos matemáticos la mayor parte de la información se centra en la diagonal principal, o al algún otro sitio, siendo la mayoría de los números 0. Si este es tu caso tiene solución. Estas en el típico caso de matriz dispersa. Te aconsejo que busques componentes para trabajar con este tipo de matrices. Mejor que no lo hagas directamente por que requiere grandes conocimientos matamaticos e informáticos.
Ah! Y un double no ocupa 4 bytes, típicamente ocupa 8 bytes. Pero depende de lenguaje de programación
Lo del botoncito no lo se.

En primer lugar siento haber tardado tanto tiempo en responder.
Realmente es un problema querer calcular este tpo de matrices enormes, para llevarlo a cabo solo se me ocurren dos vías:
1. Agilizar el calculo mediante el calculo de matrices más pequeñas (de algún modo no se si esto seria posible) es decir, dividir el problema en matrices menores porque es complicado manejar con matrices tan grandes.
2. Trabajar con matrices dinámicas usando punteros, Puesto que no puedes almacenar toda la matriz en memoria tendrías que guardar la matriz en un fichero e ir operando poco a poco con la cantidad que te permita la memoria.
Espero haberte sido de ayuda,
un saludo. Juan