Тогда векторы:
[m]\vec{AM}=(x-1;y-3;z-0)=(x-1;y-3;z)[/m]
[m]\vec{AB}=(4-1;-1-3;2-0)=(3;-4;2) [/m]
[m]\vec{AС}=(3-1;0-3;1-0)=(2;-3;1)[/m]
компланарны.
Значит, определитель третьего порядка, составленный из координат этих векторов равен 0: