A ver... Trabajo en esto de redes sociales y creo que es bastante sencillo.
Te explico: en el momento que tú creas una cuenta de Google (GMail pertenece a google) inmediatamente te "asigna" un perfil en Google+, con independencia de que tengas o no página en Google+. Probablemente, lo que te ha pasado es que cancelaste la cuenta pero no borraste la foto de perfil antes de hacerlo, con lo que la foto queda "por defecto" asignada a tu correo de GMail. En ese caso, tendrías que volver a entrar en la cuenta que eliminaste (porque sucede como en Facebook, que aunque la elimines en realidad queda "inactiva", pero puedes volver a entrar).
Esto lo haces del siguiente modo: desde la página de Google, estando con tu correo de Gmail activado, en la esquina superior de la derecha va a aparecer tu nombre y tu foto en pequeñito a la derecha de todo, con una flechita al lado. Pinchas en la flechita y le das a "Ver perfil". Inmediatamente, te va a entrar en la página de Google+.
Si te fijas, hay un menú arriba donde dice "Sobre mí". Si pinchas ahí, te aparecerá una página con varios recuadros de "Personas" "Trabajo", etc. Peeeero (y ahí está donde se despista mucha gente) si vas hacia arriba de la página (no hacia abajo, como es lo habitual), verás que sobre todos esos recuadros aparecerá tu foto en un circulito.
Bien. Pues entonces tienes que pinchar esa foto en forma de circulito, y es ahí donde tienes que eliminarla, en vez de subir una nueva. Si ves que no te da la opción de eliminarla, pues sube cualquier tontería (una flor, un paisaje, lo que quieras).
Espero que te haya servido de ayuda. Si no te funciona, me lo dices, a ver si descubrimos qué puede ser.