Gọi `2` số cần tìm là `x , y ( 0 < x , y ; y < x )`

Ta có `: x/y = 3/5`

`=> x/3 = y/5`

Đặt `x/3 = y/5 = k`

`=>` `{(x = 3k),(y = 5k):}`

Ta có `: x^2 - y^2 = - 64`

`=> ( 3k )^2 - ( 5k )^2 = - 64`

`=> 9k^2 - 25k^2 = - 64`

`=> k^2 . ( 9 - 25 ) = - 64`

`=> k^2 . ( - 16 ) = - 64`

`=> k^2 = - 64 : (  -16 )`

`=> k^2 = 4`

`=>` \(\left[ \begin{array}{l}k^2 = 2^2\\k^2 = ( - 2 )^2\end{array} \right.\) 

`=>` \(\left[ \begin{array}{l}k = 2\\k = - 2\end{array} \right.\) 

Xét `k = 2 => {(x = 2 . 3 = 6),(y = 2 . 5 = 10):}`

Xét `k = - 2 => {(x = - 2 . 3 = - 6),(y = - 2 . 5 = - 10):}`

Vậy `, ( x ; y ) ∈ { ( 6 ; 10 ) ; ( - 6 ; -10 ) } .`

Gọi `2` số cần tìm là `a` và `b`  `(b` $\neq$ `0)`

Ta có : `a/b=3/5=k`  `(k` $\neq$ `0)`

`=>` $\begin{cases} a=3k\\b=5k\\ \end{cases}$

Vậy : `a=3k` và `b=5k`

`a^2-b^2=-64`

`=>(3k)^2-(5k)^2=-64`

`=>9k^2-25k^2=-64`

`=>-16k^2=-64`

`=>k^2=4`

`=>k=+-2`

Với `k=2` thì :

`a=3.2=12`

`b=5.2=10`

Với `k=-2` thì :

`a=3.(-2)=-6`

`b=5.(-2)=-10`

Vậy `a=12,b=10` và `a=-6,b=-10` là các số cần tìm