Проверить принадлежат ли точки A (2; 4), В (7; 1) и С (0; 2) окружности x^2+y^2-2x-4y=0

x0, x0 — координаты центра окружности.xp, yp — координаты точкирасстояние от окружности до точки это гипотенуза, катеты это xp-x0 и yp-y0. Соответственно если это расстояние меньше радиуса окружности — точка внутри, равно — на границе, больше — за пределами. По теореме Пифагора.