Đáp án:

Giải thích các bước giải:

Kẻ $BD$ cắt $AC$ tại $D$ sao cho $\widehat{CBD}=20^{\circ}$ 
Hạ $AH$ vuông góc $BD$ tại $H$;
Dễ thấy,$\widehat{ABH}=60^{\circ}\Rightarrow \widehat{BAH}=30^{\circ}$ 
$\triangle ABH$ có $\widehat{BAH}=30^{\circ}$ nên 
$\dfrac{BH}{AB}=\dfrac{1}{2} \Rightarrow BH=\dfrac{b}{2}$
Dễ chứng minh $\Delta BDC$ cân 
$\Rightarrow BD=BC=a$
$\Rightarrow DH=BH-DH=\dfrac{b}{2}-a=\dfrac{b-2a}{2}$
Áp dụng Pythagore vào $\Delta ABH$ tính được $AH^2=\dfrac{3b^2}{4}$
Vậy $AD^2=b^2-ab+a^2(1)$
Mà $\Delta ABC \sim \Delta BCD$
$\Rightarrow \dfrac{DC}{BC}=\dfrac{BD}{AC}$
$\Rightarrow CD=\dfrac{a^2}{b}$
$\Rightarrow AD=b-\dfrac{a^2}{b}$
$\Rightarrow AD^2= b^2 - 2a^2+ \dfrac{a^4}{b^2}$  $(2)$
Từ $(1)$;$(2)$ có $3a^2-ab-\dfrac{a^4}{b^2}=0$ 
Nhân 2 vế với $b^2$ rồi chia cho $a$ ta có đpcm.