¿Qué aspectos técnicos debe tener un software que maneje una gran base de datos?

Veamos, Pues de cara al software a desarrollar, debes tener en cuenta la facilidad de conexión entre el lenguaje que uses y la BD. Habitualmente no hay muchos problemas, gracias a estándares como ODCB.
Lo más importante es el diseño de la BD. Debe ser un diseño correcto y normalizado.
Sobre la BD, pues conviene analizar varias, para quedarse con la que más convenga a la aplicación que se está desarrollando.
Otro aspecto a tener en cuenta es como van a ser las consultas. Es importante tener consultas SQL bien organizadas, y que no hagan un uso indiscriminado de todas sus posibilidades (por ejemplo, usar DISTINCT es muy costoso, solo conviene hacerlo si es imprescindible), optimizando las consultas.
Las creaciones de índices también es una buena costumbre, pero ten en cuenta que no siempre son útiles. Por ejemplo, cuando tienes que hacer un tratamiento masivo de datos (tratarlos todos o casi todos), los índices no aceleran las consultas, sino todo lo contrario. Es más rápido acceder a los datos secuencialmente sin pasar por el índice que pasar por el índice por cada dato.
Otro aspecto importante, es la cuestión de diseño de la aplicación. Lo mejor es poner todo el código de acceso a datos en una capa separada. Esto te dará una gran flexibilidad cuando cambies de SGBD o cuando tengas que modificar la aplicación, puesto que desliga el acceso a datos de la aplicación.
Espero que la respuesta te sirva. Si no preguntabas exactamente esto, solo tienes que decírmelo :-)