Середина AB: M1((x1+x2)/2; (y1+y2)/2)
Середина AC: M2((x1+x3)/2; (y1+y3)/2)
Середина BC: M1((x2+x3)/2; (y2+y3)/2)
Потом нужно построить уравнения медиан, хотя бы двух.
(CM1) : (x - x3) / ((x1+x2)/2 - x3) = (y - y3) / ((y1+y2)/2 - y3)
(BM2) : (x - x2) / ((x1+x3)/2 - x2) = (y - y2) / ((y1+y3)/2 - y2)
(AM3) : (x - x1) / ((x2+x3)/2 - x1) = (y - y1) / ((y2+y3)/2 - y1)
И, наконец, находим точку пересечения этих медиан:
{ (x - x3) / ((x1+x2)/2 - x3) = (y - y3) / ((y1+y2)/2 - y3)
{ (x - x2) / ((x1+x3)/2 - x2) = (y - y2) / ((y1+y3)/2 - y2)
Из решения этой системы мы находим x = x0 и y = y0.
Вот это и есть координаты центра тяжести: O(x0; y0)