а) Пусть \(R_1, R_2, R_3\) – точки касания со стороной \(AC\) окружностей с центрами \(O_1, O_2, O_3\) соответственно.
Тогда \(O_1R_1, O_2R_2, O_3R_3\perp AC\).
Если окружность вписана в угол, то она лежит на биссектрисе этого угла, следовательно, \(O_1, O_3\) лежат на биссектрисе угла \(C\), \(O_1,
O_2\) – на биссектрисе угла \(A\).
Будем называть окружность с центром в \(O_1\) – первой, с центром в \(O_2\) – второй и с центром в \(O_3\) – третьей.
Пусть \(KK_3\) – общая касательная к первой и третьей окружностям. \(LL_2\) – общая касательная к первой и второй окружностям, как показано на рисунке: 
Докажем, что \(\angle CK_3K=\angle AL_2L=90^\circ\).
Так как \(KK_3\) – касательная, \(K_3\) – точка касания, то \(\angle
KK_3O_3=90^\circ\) как угол между касательной и радиусом, проведенным в точку касания. Аналогично \(\angle AL_2L=90^\circ\).
Заметим также, что \(KR_3=KK_3=KR_1\) и \(LR_2=LL_2=LR_1\) (также как отрезки касательных).
Рассмотрим “правую” часть рисунка. 
Заметим, что \(\triangle CO_3R_3\sim \triangle CKK_3\sim \triangle
CO_1R_1\) (по двум углам). Обозначим \(CR_3=y, KR_3=x\). Тогда из подобия этих трех треугольников \[\dfrac{O_3R_3}{CR_3}=\dfrac{KK_3}{K_3C}=\dfrac{O_1R_1}{CR_1}
\quad\Rightarrow\quad \dfrac
1y=\dfrac{x}{\sqrt{(x+y)^2-x^2}}=\dfrac9{2x+y}\] Из равенства \[\dfrac 1y=\dfrac9{2x+y}\] можно выразить \(x\) через \(y\): \(x=4y\). Тогда \(K_3C=\sqrt{(x+y)^2-x^2}=3y\), следовательно, \[\mathrm{tg}\,\dfrac{\angle C}2=\dfrac x{3y}=\dfrac43\] Тогда \(\angle C=2\mathrm{arctg}\,\frac43\).
Докажем, что это значение действительно равно \(180^\circ-\mathrm{arctg}\,\frac{24}7\).
Найдем тангенс \(\angle C\), полученного в нашем решении, и тангенс \(\angle C\), данного в условии: \[\begin{aligned}
&\mathrm{tg}\,\left(2\mathrm{arctg}\,\dfrac43\right)=
\dfrac{2\mathrm{tg}\,\left(\mathrm{arctg}\,\dfrac43\right)}{1-
\mathrm{tg}\,^2\left(\mathrm{arctg}\,\dfrac43\right)}=
\dfrac{2\cdot \frac43}{1-\left(\frac43\right)^2}=-\dfrac{24}7\\[2ex]
&\mathrm{tg}\,\left(180^\circ-\mathrm{arctg}\,\frac{24}7\right)=-
\mathrm{tg}\,\left(\mathrm{arctg}\,\frac{24}7\right)=-\dfrac{24}7
\end{aligned}\] Чтд.
б) Для того, чтобы найти площадь \(\triangle AO_1O_3\), можно найти площадь \(\triangle AO_1C\) и вычесть из нее площадь \(\triangle
AO_3C\). Высоты этих треугольников к основанию \(AC\) мы знаем, следовательно, нужно найти \(AC\).
Найдем \(y\).
Рассмотрим уже выведенное равенство из пункта а): \[\dfrac
1y=\dfrac{x}{\sqrt{(x+y)^2-x^2}}\quad\rightarrow\quad \dfrac
1y=\dfrac {4y}{3y}\quad\Rightarrow\quad y=\dfrac34\] Следовательно, \(R_1C=9y=\frac{27}4\).
Теперь нужно найти \(AR_1\).
Для этого воспользуемся тем же способом, что и в пункте а). Пусть \(AR_2=t\), \(R_2L=z\). Так как \(\triangle AO_2R_2\sim \triangle
ALL_2\sim \triangle AO_1R_1\), то \[\dfrac{81}{25t}=\dfrac{z}{\sqrt{(z+t)^2-z^2}}=\dfrac9{2z+t}\] Отсюда \(z=\frac89t\). Так же, как в пункте а), найдем, что \(t=\frac{243}{40}\). Следовательно, \(AR_1=t+2z=\frac{25}9t=\frac{135}8\). Тогда \[S_{AO_1O_3}=S_{AO_1C}-S_{AO_3C}=\dfrac 12\cdot AC\cdot (O_1R_1-O_3R_3)=
\dfrac12\cdot \left(\dfrac{135}8+\dfrac{27}4\right)\cdot 8=94,5\]
Ответ:
б) 94,5