Creo que hay un error en el enunciado porque si fuera como allí dice:
y ' ' + y ' = secx, la homogénea sería: m^2+m=0; m(m+1)=0;
y(h) = C1+C2*e^(-x); ninguna de tus respuestas 2. o 3. tienen esa forma.
Sin embargo, si fuera: y ' ' + y = secx;
Auxiliar: m^2+1=0; m=+-i; y(h) = C1cosx + C2senx;
que corresponde a tu respuesta 2.
Sobre esta forma calculemos los Wronskianos:
W: cosx &&& senx
-senx &&& cosx;
cos^2x +sen^2x; por identidad trigonométrica: W=1
W1: 0 &&&senx
secx&&&cosx; como secx= 1/cosx:
-sen/cos = -Tanx; W1=-Tanx;
W2: cosx &&& 0
-senx &&& secx; cosx/cosx= 1; W2=1;
u1= ∫ W1dx/W; u1= -∫ Tanx*dx/1; u1= ln|cos x| + C
u2= ∫ W2dx/W; u2= ∫dx; u2= x + C;
### y = C1cosx + C2senx + cosx ln|cosx| + xsenx
Como puedes ver, la respuesta más parecida es la 2., aunque no es igual.
Puedes corroborarlo en:
http://www.wolframalpha.com/input/?i=y+%27+%27+%2B+y++%3D+sec+x