Как я понял, нужно понять, что это за фигура.
Самое трудное - это избавиться от члена 6xy.
Для этого нужно сделать замену:
x = x'*cos a - y'*sin a
y =y'*cos a + x'*sin a
Подставляем:
2(x'*cos a - y'*sin a)^2 - 6(x'*cos a - y'*sin a)(y'*cos a + x'*sin a) +
+ 10(y'*cos a + x'*sin a)^2 - 78(x'*cos a - y'*sin a) -
- 26(y'*cos a + x'*sin a) + 760 = 0
Раскладываем произведения:
2(x'^2*cos^2 a - 2x'y'*sin a*cos a + y'^2*sin^2 a) -
- 6(x'*y'*cos^2 a - y'^2*sin a*cos a + x'^2*sin a*cos a - x'y'*sin^2 a) +
+ 10(y'^2*cos^2 a + 2x'y'*sin a*cos a + x'^2*sin^2 a) -
- 78(x'*cos a - y'*sin a) - 26(y'*cos a + x'*sin a) + 760 = 0
Раскрываем скобки:
2x'^2*cos^2 a - 4x'y'*sin a*cos a + 2y'^2*sin^2 a - 6x'*y'*cos^2 a +
+ 6y'^2*sin a*cos a - 6x'^2*sin a*cos a + 6x'y'*sin^2 a +
+ 10y'^2*cos^2 a + 20x'y'*sin a*cos a + 10x'^2*sin^2 a -
- 78x'*cos a + 78y'*sin a - 26y'*cos a + 26x'*sin a + 760 = 0
Собираем члены с x'^2, y'^2, x'y':
x'^2*(2cos^2 a - 6sin a*cos a + 10sin^2 a) +
+ y'^2*(2sin^2 a + 6sin a*cos a + 10cos^2 a) +
+ x'y'*(-4sin a*cos a - 6cos^2 a + 6sin^2 a + 20sin a*cos a) +
+ x'(-78cos a + 26sin a) + y'(78sin a - 26cos a) + 760 = 0
Теперь коэффициент при x'y' приравниваем к 0:
6sin^2 a + 16sin a*cos a - 6cos^2 a = 0
Делим всё на 2cos^2 a:
3tg^2 a + 8tg a - 3 = 0
D = 8^2 - 4*3(-3) = 64 + 36 = 100 = 10^2
tg a = (-8 - 10)/6 = -3 - не подходит, должно быть tg a > 0
[b]tg a = (-8 + 10)/6 = 1/3[/b]
a = arctg(1/3) - это угол поворота осей.
Вычислим sin^2 a и cos^2 a:
1/cos^2 a = 1 + tg^2 a = 1 + 1/9 = 10/9
[b]cos^2 a = 9/10
sin^2 a = 1 - cos^2 a = 1 - 9/10 = 1/10[/b]
[b]cos a = 3/sqrt(10); sin a = 1/sqrt(10)[/b]
[b]sin a*cos a = 1/sqrt(10)*3/sqrt(10) = 3/10[/b]
Подставляем в наше уравнение:
x'^2*(2*1/10 - 6*3/10 + 10*1/10) +
+ y'^2*(2*1/10 + 6*3/10 + 10*9/10) + x'y'*0 +
+ x'(-78*3/sqrt(10) + 26*1/sqrt(10)) + y'(78*1/sqrt(10) - 26*3/sqrt(10)) + 760 = 0
Приводим подобные:
x'^2*(-6/10) + y'^2*110/10 + x'(-208/sqrt(10)) + y'*0 + 760 = 0
Умножаем всё на 5:
-3x'^2 + 55y'^2 - 104sqrt(10)*x' + 3800 = 0
Умножаем всё на -1:
3x'^2 + 104sqrt(10)*x' - 55y'^2 - 3800 = 0
Выделим полный квадрат для x':
3(x'^2 + 2*52sqrt(10)/3*x' + 10*52^2/9 - 10*52^2/9) - 55y^2 - 3800 = 0
У нас свободный член имеет вид:
10*52^2/9*3 = 10*52^2/3 = 27040/3
Поэтому имеет смысл представить 3800 как 11400/3, чтобы сложить их:
3(x' + 52sqrt(10)/3)^2 - 27040/3 - 55y'^2 - 11400/3 = 0
3(x' + 52sqrt(10)/3)^2 - 55y'^2 = 38440/3
Делим всё на (38440/3) :
(x' + 52sqrt(10)/3)^2 / (38440/9) - y'^2 / (38440/165) = 1
Это гипербола, она имеет общий вид:
(x' - x0)^2/a^2 - y'^2/b^2 = 1