和算家は，この問題に対して，互いに外接する３個の円と，これに内接または外接する円の各半径の間の関係式（デカルトの円定理）を繰り返し利用して解答を出している。しかしここでは，和算にはなかった反転法と呼ばれる方法を使って解くことにする。ただ，一般に学校の数学の授業では反転法は教えていないので，初めにその技法を述べたうえで，この問題を解くのに必要な定理を証明なしで述べる。
反転法とは，半径がｋで中心がＴの円（それをＳとする）に関する変換である。点Ｔは反転の中心と呼ばれる。ここで，Ｓを含む平面上の任意の点Ｐを点Ｔと結び，この線分の長さをTPとする。
このとき，円Ｓに関する点Ｐの反転とは，直線TP上の点Ｐ’が次の条件満たすときである。
TP･TP’ = k2
言い換えれば k が２つの線分の長さ TP と TP’ の相乗平均になっていることである。たとえば点Ｐが円Ｓの外にあるとき，この点Ｐからこの円に接線を引き，その接点をＡとして図を描いてみると，三角形TAPと三角形TAP’は相似となる。これは，TK/ k = k / TP’ または，TP･TP’ = k2となるからである。
この定義で点の変換のみならず，図形全体をも変換できる。元の図形上の各点Ｐは反転図形上のＰ’に変換される。次の４個の定理は円Ｓに関する円Ｃの反転に応用される。
- 定理Ａ：円Ｃが反転の中心Ｔを通らないとき，その反転は円Ｃ’となる。
- 定理Ｂ：半径ｒの円Ｃが半径ｒ’の円Ｃ’ に反転されたとき，ｒとｒ’についてはＴと円Ｃとの中心距離をｄとして次の関係がある。
r’2 (d2 – r2)2 =k4r2 - 定理Ｃ：半径ｒの円が半径ｒ’の円Ｃ’に反転され，さらに点Ｔから円Ｃ’への接線の長さがＬのとき，次の関係が成り立つ。
rL2 = k2r’ - 定理Ｄ：反転の中心を通る円は直線に反転される。
 |
 |
さて，問題の解答に入ろう。反転に入る前に緑の円の中心をＯ，赤い円（甲）の中心をＰ，赤い円の半径をｒ1とする。まず一番大きな黄色円（乙）の半径を求めよう。その中心をＱとし，その半径をｒ2とする。次に一番大きな青い円の半径を求めよう。それをｔ1とする。
三角形OPQにおいて，OP = r1，PQ = r1 +r2，OQ = r2 + h ，h = 2r1 -2 r2なので，ピタゴラスの定理により，
(r1 + r2)2 = r12 +( r2 + h)2 すなわち r2 = (2/3)r1 =(1/3)r を得る。
同様にピタゴラスの定理を用いて，t1 = r/15 を得る。
さて，この図形全体を点Ａ＝Ｔを反転円の中心として反転する。ここで円Ｔは緑円が下の赤円と接する接点である。計算を簡略にするため反転円Ｓの半径ｋ＝１としても問題の一般性を失わない。反転の定義よりTO･TO’=1 。 ここでTO ＝ｒとしているので，TO’ = 1/r を得る。
同様に緑円と上の赤円との接点である点Ｂの反転Ｂ’に関しては，TB･TB’ = 1，TB = 2r なので TB’ = 1/2rを得る。
緑円は反転の中心Ｔを通るので，定理Ｄにより，その反転は直線という特別の場合となる。ＴはＯの真下にあるのでこの直線は水平線となる。この直線Ｍ’はＴとの距離が1/r である。
同様に下の赤い円もＴを通るので，水平線に反転される。この直線Ｎ’はＴからの距離は 1/2r である。
次に，Ｔを通らない上の赤い円を考えよう。定理Ａによりそれは円に変換される。この上の赤い円は下の赤い円と（緑の円にともに）点Ｏで接しているので，２つの直線Ｍ’，Ｎ’ にぴったりと接する半径がｒ’ の円に反転される。
また，半径が r2 の一番小さい黄色の円（乙）も下の赤い円と緑の円に接しているので，これも２つの直線Ｍ’，Ｎ’にぴったりと接する円に変換される。さらに半径が ｒ’の円にも接する。
同じことが他のすべての黄色の円についても成立して，これらは左右に広がる等しい円に反転される。したがって反転された円の半径について次のことがいえる。
r’1 = r’2 = r’3 =…=r’n = r’
この手順は内側にある青い円のすべてが同じ半径の円に変換される。したがって，
t’1 = t’2 = t’3 =…=t’n = t’
ここでｒとｒ’とｔ’の関係を求めよう。r1を見てみよう。これはＴから下の赤い円の中心までの距離であり， d = 3r1 である。ここで定理Ｂより
r’12(d2 – r12)2 =r12
すなわち，
r’1 = r’ = 1/8r1 = 1/4r かつ t’ = 1/16r を得る。
ここで一般の rn ， tnを求めることにしよう。点Ｔから円r’nへの接線の長さLnを求めよう。 xnを図の中心r’1から中心 r’nまでの距離としよう。さらにＴＶの距離をKnとおけばピタゴラスの定理より次の関係を得る。
Ln2 + r’2 = Kn2 または Kn2 =(r’ +1/2r)2+ xn2
ここで定理Ｃより，Ln2 = r’/rnが得られ，r’= 1/4r， xn = 2(n – 1)r’は図から得られる。あとは適当に代入すれば次の結果を得る。
rn = r/{2 + (n – 1)2}
こうして外側にある黄色の円の連鎖のｎ番目の半径ｒnをｒで表すことができた。内側の青い円の鎖についても同様の手順で求めると次の最終結果を得る。
tn = r/{(2n – 1)2 + 14}