Lo primero que tenés que saber es la siguiente tabla mnemotécnica
Lo segundo es que el cos es positivo en los cuadrantes I, IV; mientras que el sen es positivo en los cuadrantes II, III
Y lo tercero es la regla de sumas de senos y cosenos que es:
sen(a + b) = sen(a) cos(b) + sen(b) cos(a) ....(al restar cambia el signo)
Cos(a + b) = cos(a) cos(b) - sen(a) sen(b)...(mirá que cambia el signo, y al restar también cambiaría)
Dicho todo esto, veamos tu caso:
$$\begin{align}&\cos(\frac{11 \pi}{6} - \frac{\pi}{6}) \\&\text{Creo que no vale la pena, meterse con el \cos de la suma, ya que igual no resolvemos nada, así que operemos lo que está dentro del \cos}\\&\cos(\frac{11 \pi}{6} - \frac{\pi}{6}) =\cos(\frac{10 \pi}{6})=\cos(\frac{5 \pi}{3})\\&\text{A lo mejor confunde, pero ese valor es 300°}\\&\text{Recordemos los cuadrantes:}\\&I: 0 - 90\\&II: 90-180\\&III: 180-270\\&IV: 270-360\\&\text{Por lo tanto ese ángulo está en el cuadrante IV y por lo que vimos antes el valor será positivo}\\&\text{Otra forma de ver al valor 300° es} - 60°\\&\text{Y ese valor está en la tabla que te pasé como }\frac{\sqrt{1}}{2} = \frac{1}{2}=0.5\\&\\&\end{align}$$
Por lo tanto la respuesta es la c)
Yo llegué al extremo para razonarlo completo pero con las opciones que te habían dado, podíamos frenar mucho antes, ya que podías descartar las opciones A) y D) ya que eso se da para el ángulo 0 y PI
Cuando llegamos a que el ángulo estaba en el cuadrante IV, podíamos descartar el valor negativo y ya solo quedaba la opción c)
Salu2