Văn Miếu được xây dựng tháng 10 năm 1070 để làm nơi thờ các thánh hiền đạo Nho như: Khổng Tử, Mạnh Tử... những vị danh nho đáng kính được người đời vị nể tôn sùng. Sáu năm sau, năm 1076, nhà Quốc Tử Giám được xây dựng liền kề sau Văn Miếu. Ban đầu nơi đây dùng cho các hoàng tử đến học, sau mở rộng thu nhận thêm các học trò giỏi trong toàn quốc.
Đứng từ đường Quán Thánh bạn sẽ nhìn thấy Văn Miếu cổ xưa với lớp tường bao quanh bằng gạch, cổng chính được xây dựng theo điện hoàng môn với dòng chữ nho được khắc tạc đã phai màu theo thời gian: Văn Miếu Môn. Hai bên cổng là đôi rồng đá mang phong cách thời Lê sơ.
Từ phố xá tấp nập ồn ào, bước vào phía trong cổng Văn Miếu bạn sẽ cảm nhận được một không gian thoáng mát yên lành như bước vào cõi phật cõi tiên. Một khoảng sân rộng với nhiều tượng đá tạc chân dung các mãnh tướng sư tử, hổ... như gợi lại không khí linh thiêng oai hùng của lịch sử ngàn năm xưa bên những gốc si xanh già cổ thụ mấy trăm tuổi. Lối đi giữa dẫn đến cổng Đại Trung Môn, mở đầu cho khu thứ hai, hai bên còn có hai cổng nhỏ. Bạn đến đây muốn thắp nén nhang lạy tạ các thánh thần cầu ban phước lành trí tuệ anh minh thì hãy dừng chân tại Đại Trung Môn bên bát hương lớn đặt giữa cửa vào.
Tiếp sau Đại Trung Môn là Khuê Văn Các được xây dựng từ năm 1805, có kiến trúc đẹp, mang nhiều ý nghĩa và đã được chọn là biểu tượng chính thức cho thủ đô Hà Nội. Khu thứ ba là Khuê Văn Các tới Đại Thành Môn có tường bao quanh. Hai bên hồ là hai khu vườn bia, nơi dựng các tấm bia ghi tên những người đỗ tiến sĩ, những trạng nguyên khoa bảng ngày xưa. Hiện trong Văn Miếu còn lại 82 tấm bia tiến sĩ của 82 khoa thi từ năm 1442 đến năm 1779. Đây là những di vật quý nhất của Văn Miếu.
Bước qua cửa Đại Thành là tới khu thứ tư. Ở đây có sân rộng, hai bên là hai dãy Tả Vu và Hữu Vu, vốn dựng làm nơi thờ các danh nho. Cuối sân là nhà Đại Bái và Hậu Cung, kiến trúc đẹp và hoành tráng. Tại đây còn một số hiện vật quý: bên trái có chuông đúc năm 1786, bên phải có một tấm khánh đá, trên mặt khắc bài văn nói về công dụng của các loại nhạc khí này.
Sau khu Đại Bái là trường Quốc Tử Giám đời Lê, một loại trường Đại học đương thời. Khi nhà Nguyễn rời trường này vào Huế thì nơi đây chuyển làm đồn Khải Thánh thờ song thân Khổng Tử, nhưng đền này đã bị hư hỏng trong chiến tranh. Nhà Thái Học đã được xây dựng lại vào dịp kỷ niệm 990 năm Thăng Long - Hà Nội.
Người Việt Nam và du khách nước ngoài nhớ về Hà Nội tìm về Văn Miếu như tìm về chốn văn hiến ngàn năm của nước Việt. Chính vì vậy từ rất lâu Văn Miếu trở thành điểm du lịch phổ biến đối với du khách trong và ngoài nước.
Văn Miếu mang một nét đẹp văn hoá trong lịch sử của dân tộc ta, mang ý nghĩa biểu trưng cho tiến trình văn hoá của Việt Nam, là một bằng chứng về sự đóng góp của Việt Nam vào nền văn minh Nho giáo của khu vực và nền văn hoá mang ý nghĩa nhân văn toàn thế giới. Mỗi năm vào dịp đầu năm học những "trạng nguyên" thời nay được tụ hội về đây dâng nén hương thơm tưởng nhớ và biết ơn tới các danh Nho xưa, đồng thời như một sự báo công cùng ý nguyện kế tục phát huy truyền thống văn hiến của dân tộc.