Здесь поможет понижение порядка.
Замена y' = z; y'' = z'
z'*tg x = z + 1
[m]\frac{dz}{dx} \cdot tg\ x = z + 1[/m]
Уравнение с разделяющимися переменными:
[m]\frac{dz}{z+1} = \frac{dx}{tg\ x}[/m]
[m]\frac{dz}{z+1} = \frac{\cos xdx}{\sin x}[/m]
Берем интегралы:
[m]\ln |z+1| = \ln |\sin x| + \ln |C1|[/m]
[m]\ln |z+1| = \ln |C1\sin x|[/m]
Избавляемся от логарифмов:
[m]z + 1 = C1\sin x[/m]
[m]z = C1\sin x - 1[/m]
Возвращаемся к функции y:
[m]y' = C1\sin x - 1[/m]
[m]y = -C1\cos x - x + C2[/m]