VB MSHFlexGrid 100.000 registros BD SQL Server

Aunque no tengbo una respuesta concreta para esto, creo que debes analizar si es conveniente mostrar en pantalla tantos registros, pues nadie trabaja con tantos registros al mismo tiempo. Pero si aun así quieres mostrar tantos registro podrías utilizar un mecanismo como el siguiente.
Supongamos que tu tabla tiene un id que es de tipo numérico. Entonces la ideas es ir mostrardo 100 registro por vez.
En el formulario donde tienes el grid incluyes un botón que diga próximos 100. En el código del formulario creas una variable privada que te sirva para contar cada vez que el usuario presione el botón.
EJ:
PRIVATE CONTADOR AS INTEGER=1
PRIVATE RS AS ADODB.RECORDSET
SUB BOTON1_CLICK()
DIM I AS LONG
QUITAENLACEGRID
CONTADOR=CONTADOR+1
I=CONTADOR * 100
RS.OPEN "SELECT * FROM TABLA1 WHERE "(ID>=" & I & ") AND (I<" & I+100 & ")"
PONENLACEGRID
END SUB
Nota1:
Quitaenlacegrid y ponenlacegrid son subprogramas donde pones y quitas el enlace del grid con la basae de datos.
Como puedes vez esta es una solución muy similar a la que utilizan los buscadores web