Codecs, Tarjeta de video o SO

Buenas tengo una duda, hace poco mi equipo trabaja con normalidad, un día al queré cambiar de formato unos mp4 a mpg con el programa TMPGEnc, se me pasmaba con unos archivos, y no sabia que hacer, pensé que eran los codecs y baje la ultima version de K-Lite codec pack yla instale y seguía igual, como nunca había tenido problemas al codificar dichos archivos pensé que era algún programa que había instalado, y lo ultimo que había instalado era el Itunes con Quick time incluido.
Y en efecto desinstale el itunes y quicktime pero sin reiniciar mi ordenador y convertí los archivos si problemas.
El problema surgió al otro día que inicia mi equipo y me llevo la sorpres de que al reproducir un video avi, mp4, mpg cual quier formato me aparecían unos cuadros como anexo en la siguientes imágenes.
Pensé que era problemas de nuevo con los codecs, desinstal e instale de nuevo y todo seguía igual, Instale de nuevo el Itunes y también, pero o sorpresa queme lleve cuando abrí un juego y me aparecían los cuadros también y hasta en las aplicaciones.
A veces aparecen y a veces no, pensé que era mi tarjeta de video instale los últimos drivers y nada. ¿Y puesto que en el escritorio no aparecen esos cuadros no creo que sea la tarjeta de video o si?
En estos momentos estoy pensando en que sea el SO, pero no quiero formatear mi PC ya que es mucho lo que hay que respaldary no tengo los medios para hacerlo
Aquí les dejo las imágenes.
http://mx.geocities.com/wpmi/ejem.jpg
http://mx.geocities.com/wpmi/ejem1.jpg
http://mx.geocities.com/wpmi/ejem2.jpg
http://mx.geocities.com/wpmi/ejem3.jpg
Mi equipo tienen las siguientes características:
Sistema operativo: Microsoft Windows Vista Home Premium
Tipo de procesador QuadCore Intel Core 2 Quad Q6600, 2400 MHz (9 x 267)
Memoria del Sistema 3324 MB (DDR2 SDRAM)
Tarjeta gráfica NVIDIA GeForce 8400 GS (512 MB)
Espero alguien pueda ayudarme se agradece de antemano.