半径 r の円 AB に関する反転で
半径 s の円 CD を反転させた円の半径を
r, s, t で求めよう。
ただし t = AC とし t > s とする。

AC の延長と円 CD の交点を E
線分 AC と円 CD の交点を F とする。
この反転での E, F の反転点を
各々 G, H とする。

GH は円 CD を反転させた円の直径である。
求めるのは GH/2 である。

AG×AE = r2
AE = t+s
AH×AF = r2
AF = t-s
より
HG = r2(1/(t-s) - 1/(t+s))
なので
求める半径は

r2s/(t2-s2)