Giải thích các bước giải:

a,

Ta có:

\(\begin{array}{l}
\cos BAC = \frac{{A{B^2} + A{C^2} - B{C^2}}}{{2.AB.AC}} = \frac{{{4^2} + {5^2} - {6^2}}}{{2.4.5}} = \frac{1}{8}\\
\overrightarrow {AM}  = \overrightarrow {AB}  + \overrightarrow {BM}  = \overrightarrow {AB}  + \frac{2}{3}\overrightarrow {BC}  = \overrightarrow {AB}  + \frac{2}{3}\left( {\overrightarrow {BA}  + \overrightarrow {AC} } \right) = \frac{1}{3}\overrightarrow {AB}  + \frac{2}{3}\overrightarrow {AC} \\
 \Leftrightarrow A{M^2} = {\left( {\frac{1}{3}\overrightarrow {AB}  + \frac{2}{3}\overrightarrow {AC} } \right)^2}\\
 \Leftrightarrow A{M^2} = \frac{1}{9}.A{B^2} + 2.\frac{1}{3}\overrightarrow {AB} .\frac{2}{3}\overrightarrow {AC}  + \frac{4}{9}A{C^2}\\
 \Leftrightarrow A{M^2} = \frac{1}{9}A{B^2} + \frac{4}{9}.AB.AC.\cos BAC + \frac{4}{9}A{C^2}\\
 \Leftrightarrow A{M^2} = \frac{1}{9}{.4^2} + \frac{4}{9}.4.5.\frac{1}{8} + \frac{4}{9}{.5^2}\\
 \Leftrightarrow A{M^2} = 14\\
 \Leftrightarrow AM = \sqrt {14} 
\end{array}\)

Gọi \(R\) là bán kính đường tròn ngoại tiếp tam giác AMC, ta có:

\(\begin{array}{l}
p = \frac{{AM + AC + MC}}{2} = \frac{{\sqrt {14}  + 5 + 2}}{2} = \frac{{7 + \sqrt {14} }}{2}\\
 \Rightarrow {S_{AMC}} = \sqrt {p\left( {p - AM} \right)\left( {p - AC} \right)\left( {p - MC} \right)}  = \frac{{5\sqrt 7 }}{4}\\
{S_{AMC}} = \frac{{AM.AC.MC}}{{4R}} \Rightarrow R = 2\sqrt 2 
\end{array}\)

b,

+) Tính diện tích tam giác ABC:

\(BC = 3MC \Rightarrow {S_{ABC}} = 3{S_{AMC}} = \frac{{15\sqrt 7 }}{4}\)

+) Tính diện tích tam giác GMN:

G là trọng tâm tam giác ABC và N là trung điểm AC nên \(GN = \frac{1}{3}BN\)

\(\begin{array}{l}
{S_{GMN}} = \frac{{GN}}{{BN}}.{S_{BMN}} = \frac{1}{3}{S_{BMN}} = \frac{1}{3}.\frac{{BM}}{{BC}}.{S_{BNC}} = \frac{1}{3}.\frac{2}{3}.{S_{BNC}}\\
 = \frac{2}{9}{S_{BNC}} = \frac{2}{9}.\frac{1}{2}{S_{ABC}} = \frac{1}{9}{S_{ABC}} = \frac{1}{9}.\frac{{15\sqrt 7 }}{4} = \frac{{15\sqrt 7 }}{{36}}
\end{array}\)