Pocas cosas te quedan por probar.
Puedes intentar cmd+s que te mostrará en la pantalla lo que está ocurriendo y te dará una terminal. Las últimas líneas, o las advertencias que van saliendo por ellas te darán una pista de lo que está pasando.
Si eso no te aclara nada, prueba a arrancar pulsando Alt, te sacará un menú de arranque y si tienes 10.7 o superior tendrás una partición de recuperación en la que podrás arrancar alguna utilidad para saber si al menos el disco duro está funcionando.
Si aún así no ves nada raro, descarga de esta página https://github.com/upekkha/AppleHardwareTest el hardware test compatible con tu modelo de iMac, descomprímelo con la utilidad de discos en una memoria usb y arráncalo pulsando la D (modelos más nuevos requieren alt+D) y te mostrará exactamente si algún componente está fallando.
Si nada aparece como roto, muchas más soluciones no quedan a parte de la de reinstalar el sistema operativo.