2x_1 + 3x_2 - 2x_3 = 0 \\
3x_1 + x_2 - ax_3 = 0 \\
x_1 + 5x_2 - 5x_3 = 0 \\
\end{cases}[/m]
С помощью матриц однородную систему нужно решать методом Гаусса.
[m]\begin{pmatrix}
2 & 3 & -2 & | & 0 \\
3 & 1 & -a & | & 0 \\
1 & 5 & -5 & | & 0 \\
\end{pmatrix}[/m]
Поменяем местами уравнения, от этого решение не меняется:
[m]\begin{pmatrix}
1 & 5 & -5 & | & 0 \\
2 & 3 & -2 & | & 0 \\
3 & 1 & -a & | & 0 \\
\end{pmatrix}[/m]
1 строку умножаем на -2 и складываем со 2 строкой.
1 строку умножаем на -3 и складываем с 3 строкой.
[m]\begin{pmatrix}
1 & 5 & -5 & | & 0 \\
0 & -7 & 8 & | & 0 \\
0 & -14 & 15-a & | & 0 \\
\end{pmatrix}[/m]
2 строку умножаем на -2 и складываем с 3 строкой:
[m]\begin{pmatrix}
1 & 5 & -5 & | & 0 \\
0 & -7 & 8 & | & 0 \\
0 & 0 & -1-a & | & 0 \\
\end{pmatrix}[/m]
Возвращаемся к системе с новыми коэффициентами:
[m]\begin{cases}
x_1 + 5x_2 - 5x_3 = 0 \\
0x_1 - 7x_2 + 8x_3 = 0 \\
0x_1 + 0x_2 + (-1-a)x_3 = 0 \\
\end{cases}[/m]
Получается из 3 строки:
-1 - a = 0
a = -1
Тогда x_3 может быть любым числом.:
x_3 ∈ (-oo; +oo)
Из 2 уравнения:
-7x_2 + 8x_3 = 0
7x_2 = 8x_3
x_2 = 8x_3/7
Подставляем в 1 уравнение:
x_1 + 5*8x_3/7 - 5x_3 = 0
x_1 = 5x_3 - 40x_3/7
x_1 = 35x_3/7 - 40x_3/7
x_1 = -5x_3/7
Ответ: a = -1; Решение: (-5x_3/7; 8x_3/7; x_3), x_3 ∈ (-oo; +oo)