Đáp án:

$B.\ V = \dfrac{\sqrt3a^3}{8}$

Giải thích các bước giải:

Gọi $M$ là trung điểm $AB$

$\Rightarrow \begin{cases}CM\perp AB\\CM = \dfrac{a\sqrt3}{2}\end{cases}$ (đường cao trong tam giác đều)

Từ $H$ kẻ $HN\perp AB$

$\Rightarrow HN//CM$

Áp dụng định lý $Thales$ ta được:

$\quad \dfrac{HN}{CM} = \dfrac{BH}{BC} = \dfrac13$

$\Rightarrow HN = \dfrac13CM = \dfrac13\cdot \dfrac{a\sqrt3}{2} = \dfrac{a\sqrt3}{6}$

Ta có:

$\begin{cases}HN\perp AB\quad \text{(cách dựng)}\\SH\perp AB\quad (SH\perp (ABC))\end{cases}$

$\Rightarrow AB\perp (SHN)$

$\Rightarrow SB\perp SN$

Khi đó:

$\begin{cases}(AA'B'B)\cap (ABC) =AB\\HN\perp AB\quad \text{(cách dựng)}\\SN\perp AB\quad (cmt)\\SN\subset (AA'B'B)\end{cases}$

$\Rightarrow \widehat{((AA'B'B);(ABC))} = \widehat{SNH} = 60^\circ$

$\Rightarrow SH = HN.\tan\widehat{SNH} = \dfrac{a\sqrt3}{6}\cdot \tan60^\circ = \dfrac{a}{2}$

Do đó:

$V_{ABC.A'B'C'} = S_{ABC}.SH = \dfrac{a^2\sqrt3}{4}\cdot \dfrac a2 = \dfrac{a^3\sqrt3}{8}$