Mạc Đăng Dung tuy giành được ngôi vua nhưng lực lượng ủng hộ nhà Lê còn rất mạnh. Năm 1529, một võ tướng cũ của nhà Lê là Nguyễn Kim không thần phục nhà Mạc, bỏ chạy vào miền núi Thanh Hoá và sang Ai Lao (Lào), tập hợp lực lượng chống nhà Mạc. Năm 1533, Kim tìm một người tên là Lê Duy Ninh là con của vua Lê Chiêu Tông đưa lên ngôi trên đất Sầm Châu (Ai Lao), tức là vua Lê Trang Tông.

Từ khi có danh nghĩa chính thống, Nguyễn Kim đã quy tụ được hầu hết các lực lượng cựu thần nhà Lê. Thế lực Nguyễn Kim ngày càng mạnh lên. Trong khi đó sự kiểm soát của nhà Mạc từ Thanh Hóa trở vào nam rất yếu. Năm 1537, một viên tướng được giao quản lĩnh 7 huyện của Thanh Hóa là Lê Phi Thừa đem quân chạy sang Ai Lao đầu hàng nhà Lê. Nhân cơ hội đó, từ năm 1539 đến năm 1543, quân nhà Lê từ Ai Lao đã mở các cuộc tấn công về Nghệ An và Thanh Hoá. Quân nhà Mạc thất bại liên tiếp.

Cuối năm 1543, nhà Lê chiếm được Tây Đô. Thanh Hoá, Nghệ An trở thành vùng đất đứng chân của vua Lê. Từ thời điểm đó, trên đất nước cùng tồn tại hai vương triều: Mạc và Lê. Hai thế lực tranh chấp nhau khiến cho đất nước lâm vào cảnh huynh đệ tương tàn. Về danh nghĩa triều Lê đã được phục hồi, nhưng ngay từ những ngày đầu người nắm thực quyền điều hành mọi công việc là Thái sư Nguyễn Kim. Năm 1545, Nguyễn Kim bị một hàng tướng nhà Mạc đầu độc. Người thay thế vị trí Nguyễn Kim tiếp tục cuộc chiến tranh với nhà Mạc là Trịnh Kiểm. Từ đây họ Trịnh kế tục nhau nắm quyền chi phối triều Lê. Cuộc nội chiến Nam- Bắc triều kéo dài gần 50 năm.

Cuối năm 1591, Trịnh Tùng điều động 6 vạn quân chia làm 5 đạo theo đường phía tây tiến ra Bắc. Để đối phó lại, nhà Mạc cũng đã huy động một lực lượng tới 10 vạn quân. Một trận quyết chiến giữa hai bên đã diễn ra ở Sơn Tây. Trong trận này quân Mạc đại bại, thương vong tới 1 vạn người. Thừa thắng, Trịnh Tùng cho quân áp sát thành Thăng Long, " đốt phá nhà cửa, khói lửa ngợp trời " để uy hiếp.

Năm 1592, quân Nam triều mở cuộc tấn công quyết định vào Thăng Long. Trịnh Tùng giành toàn thắng. Cục diện chiến tranh Nam- Bắc triều về cơ bản đã kết thúc, nhưng con cháu nhà Mạc cùng một số tướng tá và tàn quân bỏ chạy lên Cao Bằng hoạt động cho đến tận năm 1677 mới chấm dứt hoàn toàn.