Это однородное дифференциальное уравнение второго порядка.
Найдем корни характеристического уравнения:
k2–6k+25=0,
D=36–100=–64=(8i)2,
k=(6 ± 8i)/2,
k=3 ± 4i.
Так как корни характеристического уравнения – сопряженные комплексные числа вида α ± βi, то общее решение дифференциального уравнения имеет вид:
y=e α x·(C1cos β x+C2sin β x),
y=e3x·(C1cos4x+C2sin4x).