Линейная алгебра.

[Szael]

Ммм...а если надо проверить принадлежность углу АВС, то достаточно проверить один угол? Или все равно все проверять?

[testtest]

в каком смысле "принадлежность углу"? если это означает принадлежность "куску", который этот угол "вырезает" из плоскости, то это совсем не эквивалентно принадлежности треугольнику, т.к. точка M может оказаться далеко за стороной треугольника, в которую угол "вырастает".

[Szael]

Изначально были даны точки, и спрашивалось: принадлежит ли точка М(1,1,1) углу АВС

[testtest]

я понимаю это как принадлежность "куску".
тогда достаточно дважды проверить взаимное расположение M, цветной точки и плоскости, проведенную через сторону соответствующего цвета.