Xác suất lấy viên bi đỏ từ hộp `(I)` là `a/(a+2)`, đặt là `x`.

Xác suất lấy viên bi đỏ từ hộp `(II)` là `b/(b+3)`, đặt là `y`.

Theo đề ta có:

`(1)\qquad` Xác suất lấy cả 3 viên màu đỏ là: `x.y.6/10=0,336`

`(2)\qquad` Xác suất cả 3 viên lấy ra không phải màu đỏ là:

`(1-x)(1-y).4/10=1-0,976`

\((1),(2)\Rightarrow \begin{cases} x.y.0,6=0,336\\(1-x)(1-y).0,4=0,024\end{cases}\)

`<=> {((x,y)=(7/10,4/5)),((x,y)=(4/5,7/10)):}`

`(x,y)=(7/10,4/5)`

`=> a/(a+2)=7/10<=> a=14/3` (loại)

`b/(b+3)=4/5<=> b=12`

`(x,y)=(4/5,7/10)`

`=> a/(a+2)=4/5<=> a=8`

`b/(b+3)=7/10<=> b=7`

Vậy `a=8,b=7`

Xác suất lấy được 2 bi màu đỏ là:

`0,2.0,7.0,6+0,8.0,3.0,6+0,8.0,7.0,4=0,452`