No existe una función que haga esto. Pero puedes crear una mediante VBA.
Te envío un ejemplo que cuenta el número de celdas que tienen un determinado color dentro de un rango.
Revisa la función y si tienes dudas me las haces saber:
=============
Function CountByColor(InputRange As Range, ColorRange as Range) As Long
Dim cl As Range, TempCount As Long, ColorIndex As Integer
ColorIndex = ColorRange.Cells(1, 1).Interior.ColorIndex
TempCount = 0
For Each cl In InputRange.Cells
If cl.Interior.ColorIndex = ColorIndex Then
TempCount = TempCount + 1
End If
Next cl
Set cl = Nothing
CountByColor = TempCount
End Function
=============
Como verás, el primer dato de la función corresponde al rango donde buscarás el color de celda, el segundo dato corresponde a una celda con el color de referencia.
Esta función la tomé de:
http://www.exceltip.com/