Menuda pregunta! Como tu bien dices es una pregunta filosófica. Las preguntas filosóficas suelen tener tantas respuestas como filosofías existen, que no son pocas. El objeto de estudio podrían ser los números como también todos los conjuntos abstractos pero el la característica más distintiva de las matemáticas es que a diferencia de la física no requiere de la experimentación. Son algo así como razonamiento puro que se aplica a la realidad pero requiere demasiado de ella. Por supuesto que esto no es una definición ni mucho menos pero creo que cualquier definición de matemáticas debería tener en cuenta a diferencia de la física, la química, la biología, la historia, la geografía, que se basan en hechos empíricos las matemáticas son abstractas.