Đáp án:

 câu 1)$(x-5)^2+(y-1)^2=\frac{67}{2}-3.\sqrt{\frac{113}{2}}$

câu 2)

$(x+1)^2+(y+2)^2=20$ tiếp xúc ngoài

$(x-3)^2+(y-6)^2=20$ tiếp xúc trong

Giải thích các bước giải:

Viết lại pt đường tròn (c'):$(x-1)^2+(y-2,5)^2=\frac{21}{4}$

Có tâm I(1;-2,5) và bán kính R=$\frac{\sqrt21}{2}$

Gọi H là trung điểm của AB . Hiển nhiên IH vuông AB

BH=AH=$\frac{\sqrt{3}}{2}$

IA=IB=R=$\frac{\sqrt21}{2}$

IM=$\sqrt{(5-1)^{2}+(1+2,5)^{2}}=\frac{\sqrt{113}}{2}$

tam giác IHA vuông tại H nên:

IH=$\sqrt{IA^2-AH^2}=\frac{3}{\sqrt{2}}$

$\cos \widehat{HIA}$=$\frac{IA^2+IH^2-AH^2}{2.HI.AI}$=$\sqrt{\frac{6}{7}}$=$\cos\widehat{MIA}$

Xét tam giác MIA có:

MA=$\sqrt{MI^2+IA^2-2.MI.BI.\cos\widehat{MIA}}$

=$\sqrt{(\frac{\sqrt{113}}{2})^2}+(\frac{\sqrt{21}}{2})^2-2.\frac{\sqrt{113}}{2}.\frac{\sqrt{21}}{2}.\sqrt{\frac{6}{7}}$

=$\sqrt{\frac{67}{2}-3.\sqrt{\frac{113}{2}}}$

vậy pt đường tròn tâm M là:$(x-5)^2+(y-1)^2=\frac{67}{2}-3.\sqrt{\frac{113}{2}}$

b)đường tròn tâm (C') có tâm O=(0;0) bán kính R'=$\sqrt{5}$

$\overrightarrow{OM}$=(2;1)

Chọn vecto pháp tuyến của đương thẳng OM là $\overrightarrow{n_{OM}}$=(2;-1)

Suy ra pt đường thẳng OM là 2x-y=0

Tâm của đương tròn (C) $\epsilon$ OM : I(i;2i)

$IM^2=20=(i-1)^2+(2i-2)^2 \Leftrightarrow $ i=-1 hoăc i=3

Với i=-1 ta được I(-1;-2)

Với i=3 ta được I(3;6)

Do dó có hai đường tròn thoả mãn đề bài:

$(x+1)^2+(y+2)^2=20$ tiếp xúc ngoài

$(x-3)^2+(y-6)^2=20$ tiếp xúc trong