Subsistema de Windows de 16 bits

Esto puede deberse a las actualizaciones Automáticas o no que tenga tu Windows Xp por ejemplo el SP2... de todas formas trata de lanzar el soft de DOS con COMPATIBILIDAD con otros ssistemas windows fíjate en las propiedades del archivo ejecutable y allí configura dicha compatibilidad

Escanea tu ordenador con un antivirus actualizado y con un programa anti troyanos como spybot o ad-aware.
A mi me paso lo mismo y se trataba de un virus

El archivo AUTOEXEC. NT mantiene una serie de comandos que debe ejecutar el intérprete de MS-DOS cuando lo ejecutas (al estilo del AUTOEXEC.BAT al arrancar MS-DOS). Probablemente hayas instalado algún programa que haya introducido alguna linea en este archivo. Busca en tu disco duro alguna copia antigua al estilo AUTOEXEC. BAK, tanto en esa carpeta como en la raíz (C:\). Si no lo encuentras, examínalo a mano y comprueba que no tiene nada raro. Si te sirve de algo, te envío una copia de mi autoexec. Nt
=============corta por aqui===============
@echo off
REM AUTOEXEC.BAT no se utiliza para inicializar el entorno de MS-DOS.
REM AUTOEXEC.NT se usa para inicializar el entorno de MS-DOS a no ser
REM que se especifique un archivo de inicio diferente en el archivo de
REM informaci¢n de programa (PIF) de la aplicaci¢n.
REM Instalar las extensiones de CD-ROM
lh %SystemRoot%\system32\mscdexnt.exe
REM Instalar el redirector de red (cargar antes que dosx.exe)
lh %SystemRoot%\system32\redir
REM Instalar la compatibilidad con DPMI
lh %SystemRoot%\system32\dosx
REM La siguiente l¡nea habilita Sound Blaster 2.0 para su compatibilidad en NTVDM.
REM El comando para configurar el entorno BLASTER es como sigue a continuaci¢n:
REM SET BLASTER=A220 I5 D1 P330
REM donde:
REM A especifica el puerto de E/S de la base de sound blaster
REM I especifica la l¡nea de petici¢n de interrupciones
REM D especifica el canal DMA de 8-bits
REM P especifica el puerto de E/S de la base MPU-401
REM T especifica el tipo de tarjeta Sound Blaster
REM 1 - Sound Blaster 1.5
REM 2 - Sound Blaster Pro I
REM 3 - Sound Blaster 2.0
REM 4 - Sound Blaster Pro II
REM 6 - SOund Blaster 16/AWE 32/32/64
REM
REM El valor predeterminado es A220 I5 D1 T3 y P330. Si no se especifica algunos
REM de los modificadores, se usar  el valor predeterminado. (NOTA: puesto que todos
REM puertos est n virtualizados, la informaci¢n proporcionada aqu¡ no tiene que
REM coincidir con la configuraci¢n de hardware real.) NTVDM es compatible s¢lo con Sound Blaster 2.0.
REM El modificador T se debe establecer a 3, si se especifica.
SET BLASTER=A220 I5 D1 P330 T3
REM Para deshabilitar la compatibilidad de sound blaster 2.0 en NTVDM, especifique una direcci¢n de
REM puerto E/S de base SB. Por ejemplo:
REM SET BLASTER=A0
==============corta por aqui================

Alguna modificación hiciste al archivo autoexec. Nt o al config. Nt,, revisa esa configuración del equipo.
O danaste los archivos..