Составляем характеристическое уравнение
k^2+5k=0
k*(k+5)=0
k=0 или k=-5
Общее решение однородного дифференциального уравнения имеет вид
y_(одн)=C_(1)e^(0x)+C_(2)e^(-5x)
y_(одн)=C_(1)+C_(2)e^(-5x)
Частное решение неоднородного дифференциального уравнения y''+5y'=39cos3x–105sin3x
запишем в виде, похожем на правую часть
y_(част)=Acos3x+Bsin3x
y`_(част)=(Acos3x+Bsin3x)`=-3Asin3x+3Bcos3x
y``_(част)=(-3Asin3x+3Bcos3x)`=-9Acos3x-9Bsinx3x
Подставляем в данное уравнение
-9Acos3x-9Bsinx3x+5*(-3Asin3x+3Bcos3x)=39cos3x–105sin3x
{-9A+15B=39
{-9B-15A=-105
⇒
{-3A+5B=13
{-3B-5A=-21
{-3A+5B=13
{-5A-3B=-21
{-9A+15B=39
{-25A-15B=-105
Вычитаем из первого второе
16А=144
А=9
В=(13+3А)/5=(13+27)/5=8
О т в е т. у=у_(одн)+у_(част)=С_(1)+С_(2)e^(-5x)+9cos3x+8sin3x