Найти угол C треугольника ABC, если известны векторы AB=(2,1,-2) и BC=(3,2,6)

С углом АВС всё в порядке. Чтобы пользоваться данной формулой, необходимо, чтобы векторы исходили из одной точки. Поэтому для угла ВАС нужно брать вектор не АС, а СА, т. е. знаки в нем поменяются, и косинус будет отрицательный