Расстояние от точки до прямой:
Есть точка (X,Y) и прямая, заданная коэффициентами A,B,C.
D=ABS((A*X+B*Y+C)/SQRT(SQR(A)+SQR(B)))
Если убрать ABS, то D отрицательно, если точка с одной стороны от прямой, и положительна, если с другой.