Đáp án:

$p=2,p=7,p=11$

Giải thích các bước giải:

Đặt: $p^3-4p+9=a^2(a\in N^*)$

$\to p (p^2-4)=(a-3)(a+3)\\\to \left[ \begin{array}{l}(a-3)\vdots p\\(a+3)\vdots p\end{array} \right.$

Trường hợp 1: $(a-3)\vdots p$
Đặt: $a-3=pk(k\in N^*)$

$\to p(p^2-4)=pk(a+3)\\\to p^2-4=k(a+3)\\\to p^2=ak+3k+4$

Mặt khác: $a^2-6a+9=p^2k^2=(ak+3k+4)k^2$

$\to a^2-6a+9=ak^3 + 3k^3 + 4k^2\\\to a^2 - 6a - ak^3 + 9-3k^3-4k^2=0\\\to a^3-a(k^3+6)+(9-3k^3-4k^2)=0\\\Delta =(k^3+6)^2 -4(9-3k^3-4k^2)=k^6 + 12k^3 + 36-36 +12k^3 +16k^2=k^6 + 24k^3 +16k^2$

Để pt có nghiệm thì $\Delta$ là số chính phương.

Đặt $k^6 +24k^3 +16k^2=k_1^2(k_1\in N^*)$

$\to k^2(k^4+24k +16)=k_1^2$

Do $k\ne 0$ nên $k^4+24k+16$ là số chính phương.

Đặt $k^4+24k+16=m^2(m\in N^*)$

Nếu $k=1\to m^2=41$(Loại)

Nếu $k=2\to m^2=80$(Loại)

Nếu $k=3\to m^2=169$(Nhận)

Nếu $k>3$

$m^2=k^4+24k+16=(k^2)^2+24k+16>k^2 \to m^2>k^2$

Xét $(k^2+4)^2-m^2$

$=k^4+8k^2+16 - k^4 -24k -16=8k(k-3)>0$(Do $k>3$)

$\to m^2< (k^2+4)^2\\\to k^2<m^2<(k^2+4)^2$

Do đó: \(\left[ \begin{array}{l}m^2=(k^2+1)^2\\m^2=(k^2+2)^2\\m^2=(k^2+3)^2\end{array} \right.\) $(m,k\in N^*)$

Nếu $m^2=(k^2+1)^2$

$\to k^4+24k+16=k^4+2k^2+1\\\to 2k^2-24k-15=0\text{(Loại)}$

Nếu $m^2=(k^2+2)^2$

$\to k^4+24k+16=k^4+4k^2+4\\\to 4k^2 -24k -12=0\text{(Loại)}$

Nếu $m^2=(k^2+3)^2$

$\to k^4+24k+16=k^4+6k^2+9\\\to 6k^2-24k -7=0\text{(Loại)}$

Với $k=3\to p^2=3a+13$

Do đó: $a^2-6a+9=(3a+13) . 9=27a + 117$

$\to a^2 - 33a-108=0\to \left[ \begin{array}{l}a=36\text{(Nhận)}\\a=-3\text{(Loại)}\end{array} \right.$

Khi $a=-3\to p^2=3.(-3)+13=4\to p=2$(Nhận)

Thử lại thì $p=2$ thỏa mãn.

Trường hợp 2: $(a+3)\vdots p$

Đặt: $a+3=pn(n\in N^*)\to a-3=pn-6$

$\to p(p^2-4)=(pn-6)pn\\\to p^2-4=pn^2-6n\\\to p^2-pn^2 + 6n-4=0\\\Delta = n^4 - 24n +16$

Để pt có nghiệm thì $\Delta$ là số chính phương.

Đặt $n^4-24n+16=n_1^2(n_1\in N^*)$

Nếu $n=1\to n_1^2=-7$(Loại)

Nếu $n=2\to n_1^2=-16$(Loại)

Nếu $n=3\to n_1^2=25$(Nhận)

Nếu $n>3$

Ta có: $-24n +16< -24.3 +16=-56$

$\to n^4-24n^2 +16 < (n^2)^2-56 < (n^2)^2\\\to n_1^2< (n^2)^2$

Xét $n_1^2 - (n^2 -4)^2$

$= n^4-24n +16 - (n^4 - 8n^2 +16)\\= n^4-24n +16-n^4 +8n^2-16\\= 8n^2 - 24n\\=8n(n-3)>0\\\to n_1^2>(n^2-4)^2\\\to (n^2-4)^2<n_1^2 < (n^2)^2\\\to \left[ \begin{array}{l}n_1^2=(n^2-3)^2\\n_1^2=(n^2-2)^2\\n_1^2 = (n^2-1)^2\end{array} \right. (n,n_1\in N^*)$

Nếu $n_1^2=(n^2-1)^2$

$\to n^4-24n +16=n^4-2n^2+1\\\to 2n^2-24n+15=0\text{(Loại)}$

Nếu $n_1^2=(n^2-2)^2$

$\to n^4-24n +16= n^4-4n^2+4\\\to 4n^2-24n +12=0\text{(Loại)}$

Nếu $n_1^2=(n^2-3)^2$

$\to n^4-24n+16=n^4-6n^2+9\\\to 6n^2 -24n+7=0\text{(Loại)}$

Do đó $n=3$

$\to p^2-4=9p-18\\\to p^2-9p +14=0\to \left[ \begin{array}{l}p=2\\p=7\end{array} \right. \text{(Nhận)}$

Thử lại thấy $p=2,p=7$ thỏa mãn.

Kết luận: $p=2,p=7,p=11$