Lăng trụ $ABC.A'B'C'$ là lăng trụ tam giác đều nên $BB'\bot (ABC)$
Do $\begin{array}{l}
\left( {A'B,B'C} \right) = {90^o}\\
 \Rightarrow \overrightarrow {A'B} .\overrightarrow {B'C}  = 0
\end{array}$

$\begin{array}{l}
\left( {A'B,B'C} \right) = {90^o}\\
 \Rightarrow \overrightarrow {A'B} .\overrightarrow {B'C}  = 0\\
 \Rightarrow \left( {\overrightarrow {A'B'}  + \overrightarrow {B'B} } \right)\left( {\overrightarrow {B'B}  + \overrightarrow {BC} } \right) = 0\\
 \Leftrightarrow \overrightarrow {A'B'} .\overrightarrow {B'B}  + \overrightarrow {A'B'} .\overrightarrow {BC}  + {\overrightarrow {B'B} ^2} + \overrightarrow {B'B} .\overrightarrow {BC}  = 0\\
 \Leftrightarrow 0 + \overrightarrow {AB} .\overrightarrow {BC}  + BB{'^2} + 0 = 0\\
 \Leftrightarrow BB{'^2} =  - \overrightarrow {AB} .\overrightarrow {BC}  =  - a.a.\cos {120^o} = \dfrac{{{a^2}}}{2}\\
 \Rightarrow BB' = \dfrac{a}{{\sqrt 2 }}\\
 \Rightarrow V = {S_{ABC}}.BB' = \dfrac{a}{{\sqrt 2 }}.\dfrac{{{a^3}\sqrt 3 }}{4} = \dfrac{{{a^3}\sqrt 6 }}{8} \to D
\end{array}$