АМ=sqrt((x-1)^2+(y-1)^2)
BM=sqrt((x+3)^2+(y-3)^2)
АМ^2+BM^2=20
(x-1)^2+(y-1)^2+(x+3)^2+(y-3)^2=20
Упрощаем, раскрываем скобки:
2x^2+4x+2y^2-8y=0
x^2+2x+y^2-4y=0
Выделим полные квадраты:
(x+1)^2+(y-2)^2=5 - уравнение окружности с центром в точке (-1;2)
R=sqrt(5)