A #B=A+B-AB
(A#B)#C=(A+B-AB) + C - (A-B-AB)C=A+B+C-AB-AC-BC+ABC
B#C=B+C-BC
A#(B#C)=A+(B+C-BC)-A(B+C-BC)=A+B+C-BC-AB-AC+ABC
Наличие единицы
A#E=A+E-AE=E
E#A=E+A-EA=E
A#E=E#A
Наличие обратного элемента
A#X=B
A+X-AX=B
(E-A)X=B-A
Y#A=B
Y+A-YA=B
(E-A)Y=B-А
выполняется при обратимости матрицы (E-A)
Наверное, не группа