Cкалярное произведение векторов в координатах равно сумме произведений одноименных координат, поэтому
vector{a}*vector{c}=x+5y+2z
vector{a}*vector{c}=2x+2y-z
Скалярное произведение взаимно перпендикулярных векторов равно 0
Система:
{x+5y+2z=0
{2x+2y-z=0
Умножаем второе уравнение на 2
{x+5y+2z=0
{4x+4y-2z=0
Складываем
{5x+9y=0 ⇒ x=-9y/5
{x+5y+2z=0
(-9y/5)+5y+2z=0 ⇒ z=-8y/5
vector{c}=(-9y/5;y;-8y/5)
|vector{c}|=sqrt((-9y/5)^2+y^2+(-8y/5)^2)=|(170/25)y^2|
(170/25)y^2=1
⇒ y=5/sqrt(170) или y=-5/sqrt(170)
vector{e}=±(5/sqrt(170)) * vector{c}=(-9/5;1;-8/5)=
= ± (1/sqrt(170))(-9;5;-8)