Desarrollo aplicación sobre Windows

La ventaja de hacerlo en java es su característica de multiplataforma (o sea transparente para el sistema operativo, da igual windows, linux, etc)
Pero claro si las especificaciones son entorno windows y solo va a correr en windows la ventaja se anula.
Por otro lado el tema de ODBC, Ventanas, etc igual te da uno que otro. Aunque igual tienes cosas especificas ya hechas en objetos disponibles para windows en .Net y en java te las tendrías que programar tu...
De todas formas por lo que he ido desarrollando yo, te diría que elijas con el que programes más cómodo y te defiendas mejor

Si en las especificaciones te piden trabajar con DDE (y muy posiblemente sea para interaccionar con aplicaciones microsoft como word o excel), yo elegiría VB.NET.
No porque sea más eficiente VB.NET que java, sino porque con Java necesitarías librerías externas para implementar funcionalidades DDE nativas de windows que, VB.NET ya tiene "de serie" (por ser propietario de microsoft)
Pero si no fuera porque en las especificaciones te obligan a usar DDE, elegiría java sin lugar a dudas.
.
DDE es una tecnología nativa de Windows que sirve para que varias aplicaciones distintas puedan comunicarse e interaccionar entre sí (DDE es lo que hay por debajo de ActiveX, por ejemplo. También es lo que te permite incrustar una página de Excel dentro de una de Word).
Por supuesto Java tiene su equivalente propio a las funcionalidades DDE, pero en tu caso, al ser DDE nativo de Windows con VB.NET es más rápido de desarrollar y trae menos quebraderos de cabeza.
Con Java tendrías que usar librerías externas de terceros (de libre distribución, pero nativas para windows) para poder incrustar un objeto microsoft Word dentro de una aplicación Java o para rellenar una hoja de cálculo hecha en excel, etc.
Sin embargo, curiosamente un PDF (no nativo de microsoft, sino de Adobe) es mucho más sencillo de crear con Java, y además usando java de forma nativa.
.
Respecto a ODBD, aunque JDBC es nativa de Java y es más eficiente que ODBC, la API ODBC puedes usarla con Java sin ningún tipo de problemas y de la misma forma como si manejases JDBC.
Hasta incluso, los drivers ODBC que traen algunos gestores de bases de datos como los de Oracle, están más optimizados para ser usados en Java que en .NET.
.
Experto que con este discursito haya podido orientarte un poco.

Tanto Java como .Net pueden utilizar ODBC sin ninguna complicación, es cierto algo, .Net esta más ligado a Windows que Java en el sentido de que puedes acceder a controles de Windows más fácilmente.
Yo creo que deberías basar más tu decisión en la idea de que lenguaje te gustaría aprender más, ambos son muy cotizados aunque Java es más cotizado por las empresas que VB.NET.
Ahora si ambos lenguajes tuvieran el mismo peso para ti bueno pues te podría decir que .Net tiene quizás un mejor soporte para hacer interfaces gráficas para Windows que mantienen el look and feel del sistema operativo, con Java también puedes lograrlo pero requerirías de librerías de terceros.