Đáp án:

$\dfrac x5=\dfrac y7=\dfrac z3=k\Rightarrow\left\{\begin{matrix}x=5k\\y=7k\\z=3k\end{matrix}\right.\\\Rightarrow x^2+y^2-z^2=585\\\Rightarrow\left(5k\right)^2+\left(7k\right)^2-\left(3k\right)^2=585\\\Rightarrow 25k^2+49k^2-9k^2=585\\\Rightarrow k^2(25+49-9)=585\\\Rightarrow 65k^2=585\\\Rightarrow k^2=9\\\Rightarrow k=3\qquad{\rm{or}}\qquad k=-3\\\Rightarrow\left\{\begin{matrix}x=5.5=25\\y=5.7=35\\z=5.3=15\end{matrix}\right.\ \ \ {\rm{or}}\ \ \ \left\{\begin{matrix}x=-5.5=-25\\y=-5.7=-35\\z=-5.3=-15\end{matrix}\right.$

Vậy $x=25,y=35,z=15$ hoặc $x=-25,y=-35,z=-15$.

Giải thích các bước giải:

`x/5 = y/7 = z/3`

`=> x^2/25 = y^2/49 = z^2/9`

Áp dụng tính chất dãy tỉ số bằng nhau ta có:

`x^2/25 = y^2/49 = z^2/9 = (x^2 + y^2 - z^2)/(25 + 49 - 9) = 585/65 = 9`

`=> x^2 = 225 => x = 15`

`y^2 = 441 => y = 21`

`z^2 = 81 => z = 9`