Đặt $p^{2}$+3pq+4$q^{2}$ = $a^{2}$   (a∈ N*)

⇔ $(p+2q)^{2}$ - pq = $a^{2}$ 

⇔ pq = (p+2q+a)(p+2q-a)

Vì a nguyên dương, p,q là số nguyên tố => p+2q+a > p+2q - a

Do p,q là các số nguyên tố. Ta xét các trường hợp sau:

+TH1: $\left \{ {{p+2q-a=1} \atop {p+2q+a=pq}} \right.$ ⇔ $\left \{ {{p+2q-a-1=0} \atop {p+2q+a-pq=0}} \right.$ 

⇒p+2q-a-1+p+2q+a-pq=0

⇔ (p-4)(q-2) = 7

mà 7= 1.7

nếu $\left \{ {{p-4=1} \atop {q-2=7}} \right.$ ⇔$\left \{ {{p=5} \atop {q=9}} \right.$ (loại vì p,q là số nguyên tố)

nếu $\left \{ {{p-4=7} \atop {q-2=1}} \right.$ ⇔$\left \{ {{p=11} \atop {q=3}} \right.$ (TMĐK)

+TH2: $\left \{ {{p+2q-a=pq} \atop {p+2q+a=1}} \right.$ 

vì p,q là số nguyên tố => pq > 1 mà p+2q-a < p+2q+a (cmt) ⇒mâu thuẫn

 +TH3: $\left \{ {{p+2q-a=p} \atop {p+2q+a=q}} \right.$ ⇒2p+4q=p+q (vô lí vì p,q là số nguyên tố)

+TH4: $\left \{ {{p+2q-a=q} \atop {p+2q+a=p}} \right.$ ⇒ 2p+4q=p+q (vô lí vì p,q là số nguyên tố)

Vậy (p,q)=(11,3)

p/s: trình bày hơi dài dòng, có gì bạn chỉnh giúp mình nhé :v