Resolução:
O essencial é você saber para que intervalos temos seno, cosseno e tangente de qualquer ângulo.
Como temos seno e cosseno juntos, fica difícil, por isso vamos elevar ao quadrado pra ver se eliminamos alguma coisa quando aparecer sen2 + cos2 = 1:
m.cos x – (m + 1).sen x = m
m2.(cos2 x) – 2.m.(cos x).(m + 1).(sen x) + (m + 1)2.(sen2 x) = m2
m2.(cos2 x) – 2.m.(cos x).(m + 1).(sen x) + (m2 + 2m + 1).(sen2 x) = m2
m2.(cos2 x) – 2.m.(cos x).(m + 1).(sen x) + m2.(sen2 x) + 2m.(sen2 x) + (sen2 x) = m2
m2.(cos2 x) + m2.(sen2 x) – 2.m.(cos x).(m + 1).(sen x) + 2m.(sen2 x) + (sen2 x) = m2
m2.[(cos2 x) + (sen2 x)] – 2.m.(cos x).(m + 1).(sen x) + 2m.(sen2 x) + (sen2 x) = m2
m2 – 2.m.(cos x).(m + 1).(sen x) + 2m.(sen2 x) + (sen2 x) = m2
-2.m.(cos x).(m + 1).(sen x) +2m.(sen2 x) +(sen2 x) = 0
-2.m.(cos x).(m + 1).(sen x) + (sen2 x).(2m + 1) = 0
(sen2 x).(2m + 1) = 2.m.(cos x).(m + 1).(sen x)
Fazendo sen x diferente de 0 (depois analisamos o que acontece caso sen x = 0), podemos cancelar:
(sen x).(2m + 1) = 2.m.(cos x).(m + 1),organizando,
(sen x)/(cos x) = 2.m.(m + 1)/(2m + 1)
tg x = 2.m.(m + 1)/(2m + 1)
Agora ficou melhor! Sabemos que a tangente de um ângulo pode assumir qualquer valor. Portanto, para qualquer valor que o segundo membro assuma, a equação terá uma resposta válida.
A única coisa que poderia nos preocupar é se o denominador dessa fração fosse igual a zero. Nesse caso, quando m = -1/2, realmente se você conferir na equação original, você terá:
sen x + cos x = 1
E pi/2 + 2k.pi satisfaz sen x + cos x = 1 e sua tg não está definida, que é o caso de termos o denominador da fração igual a zero.
Repare que se tivermos m = -1/2, temos mais uma resposta além dessa, que é x = 2k.pi, que foi a resposta que eliminamos ao cancelar sen x no desenvolvimento acima. Quando considerei que sen x era diferente de zero, era preciso ver o que acontecia quando ele fosse igual a zero!
Resposta: A equação é possível para qualquer m real.