Dein Punkt B war falsch angegeben denke ich.
A = [1, 1, 0]
B = [4, -2, 0]
AB = [3, -3, 0] ; |AB| = √18
BC = [2, 2, 0] ; |BC| = √8
C = B + BC = [6, 0, 0]
D = A + BC = [3, 3, 0]
Diese Punkte befinden sich alle in der Ebene z = 0. Wenn der Abstand AA' genau 5 ist liegen diese Koordinaten in der Ebene z = 5 oder z = -5. Demnach braucht man nur alle z-Koordinaten zu tauschen.