b=a*q
c=a*q^2
a+b+c=a+a*q+a*q^2=a*(1+q+q^2)
a + b + c = 26 ⇒[b] a*(1+q+q^2)=26[/b]
a^2+b^2+c^2=a^2+a^2*q^2+a^2*q^4=a^2*(1+q^2+q^4)
a^2+b^2+c^2=364 ⇒ [b]a^2*(1+q^2+q^4)=364[/b]
Решаем систему уравнений:
{ [b]a*(1+q+q^2)=26[/b]
{[b]a^2*(1+q^2+q^4)=364[/b]
1+q^2+q^4=(q^2+1)^2-q^2=(q^2-q+1)(q^2+q+1)
{ [b]a*(1+q+q^2)=26[/b]
{[b]a^2*(q^2-q+1)(q^2+q+1)=364[/b]
{ [b]a*(1+q+q^2)=26[/b]
{[b]a*(q^2-q+1)*a*(q^2+q+1)=364[/b]
{ [b]a*(1+q+q^2)=26[/b]
{[b]a*(q^2-q+1)*26=364[/b]
{ [b]a*(1+q+q^2)=26[/b]
{[b]a*(q^2-q+1)=14[/b]
Вычитаем из первого второе:
2aq=26-14
aq=6
[b]b=6[/b]