c,

Gọi $J=CF∩(O), I=BH∩(O), G=OA∩EF$

Ta có: $\widehat{ABI}=\widehat{ACJ}$($BFEC$ nội tiếp)

$\to AJ=AI$

Mà $OJ=KI=R$

$\to A,O$ nằm trên đường trung trực $IJ$

$\to OA$ là đường trung trực $IJ\to OI\bot IJ$

Ta có: $\widehat{JIB}=\widehat{JCB}$(Chắn cung $BJ$)

Mà $\widehat{FEB}=\widehat{BCJ}$($BFEC$ nội tiếp)

$\to \widehat{JIB}=\widehat{FEB}\to IJ//EF$ mà $OA\bot IJ$

$\to OI\bot EF\\S_{OFA}=\dfrac{1}{2}.FG.OA,S_{OEA}=\dfrac{1}{2}.EG.OA\\\to S_{OFA}+S_{OEA}=\dfrac{1}{2}.EF.R$

Tương tự:

$S_{OFB}+S_{OBD}=\dfrac{1}{2}.DF.R, S_{ODC}+S_{OEC}=\dfrac{1}{2}.DE.R$

$\to S_{ABC}=R.P\\\to P=\dfrac{S_{ABC}}{R}$

Ta có: $S_{ABC}=\dfrac{1}{2}.AD.BC=\dfrac{1}{2}.a.AD$

Mà $AD\le AM$(Quan hệ đường xiên và hình chiếu)

$\to S_{ABC}\le \dfrac{1}{2}.a.AM$

Nếu $A,O,M$ thẳng hàng thì $OA+OM=AM$

Nếu $A,O,M$ không thẳng hàng thì $AM<OA+OM$(BĐT $\Delta$)

$\to OA+OM\ge AM\\\to S_{ABC}\le \dfrac{1}{2}.a.(OA+OM)=\dfrac{1}{2}.a.(R+OM)$

$M$ là trung điểm $BC\to BM=\dfrac{a}{2}$

Theo định lí Pytago ta có: $OM=\sqrt{OB^2-BM^2}=\sqrt{R^2-\dfrac{a^2}{4}}\\\to S_{ABC}\le \dfrac{1}{2}.a\left(R+\sqrt{R^2-\dfrac{a^2}{4}}\right)\\\to P\le \dfrac{a\left(R+\sqrt{R^2-\dfrac{a^2}{4}}\right)}{R}$

Dấu "=" xảy ra khi: $A$ nằm chính giữa cung $BAC$