Problema al iniciar Outlook

Esto no es problema de software, más bien es de configuración del outlook, si le das click derecho al mouse sobre el icono, allí puedes realizar las modificaciones necesarias, donde esta el servicio de Exchange, lo quitas si no lo usas y agregas correo internet y lo configuras con los mismos datos del express.

Me parece que tienes configurado tu equipo para trabajar dentro de una red que estaba controlada por MS Exchange y a menos que me estés hablando del equipo que tienes en tu casa, no creo que necesites exchange (es un servidor de correo corporativo)
Para resolver esto, tratemos con lo siguiente: entra a panel de control, ahí esta el icono de "correo" después te aparecerá un listado con los servicios disponibles, ahí muy probablemente veras algo que dice "Microsoft exchange server" y seleccionas este le das en el botón quitar, ademas de este debe de haber una o dos carpetas más, una que diga "correo electrónico de internet" y otra tal vez "libreta de direcciones ..." o algo por el estilo, estas están bien, de hecho las crea outlook para recibir mensajes y almacenar direcciones, insisto estas son las indispensables, pero no debe de haber nada que diga Echange
Todo esto lo deberás de hacer con el outlook cerrado, después cierras el panel de control e intenta accesar al outlook, te recomiendo uses el outlook 2000 ya que es más ligero que el XP y para 98, notaras la diferencia

Si dependes del exchange significa que dependes de otro servidor y el problema no es tuyo