Đảo Ngọc Sơn xưa được gọi là Tượng Nhĩ (tai voi), vua Lý Thái Tổ dời đô ra Thăng Long đặt tên là Ngọc Tượng, đến đời Trần đổi tên là Ngọc Sơn. Tại đây đã có một ngôi đền dựng lên để thờ những người anh hùng liệt sĩ đã hy sinh trong kháng chiến chống quân Nguyên Mông. Về sau lâu ngày đền ấy sụp đổ, đến thời Vĩnh Hựu nhà Lê (1735 - 1739), chúa Trịnh Giang đã dựng cung Thuỵ Khánh và đắp hai quả núi đất ở trên bờ phía đông đối diện với Ngọc Sơn gọi là núi Đào Tai và Ngọc Bội. Cuối đời Lê, cung Thuỵ Khánh bị Lê Chiêu Thống phá huỷ. Một nhà từ thiện tên là Tín Trai, nhân nền cung cũ đã lập ra một ngôi chùa gọi là chùa Ngọc Sơn. Năm Thiệu Trị thứ ba (1843), chùa lại nhường cho một hội từ thiện đổi làm đền thờ Tam Thánh. Hội này đã bỏ gác chuông, xây lại các gian điện chính, các dãy phòng hai bên, đưa tượng Văn Xương đế quân vào thờ và đổi tên là đền Ngọc Sơn (Văn Xương là nhân vật đời Kiến Vũ, 25 - 55 sau công nguyên bên Trung Quốc, sau khi chết được phong là thần chủ về văn chương khoa cử).
Theo sách "Hà Thành linh tích cổ lục" thì ngay từ đời Lê, trên đảo Ngọc Sơn đã có đền thờ Quan Công, người nổi tiếng trung nghĩa đời Tam Quốc (Trung Quốc). Khi vua Lê và chúa Trịnh dùng hồ là nơi duyệt thuỷ quân thì đền được coi như một võ miếu. Dân Hà thành đã đem tượng Đức thánh Trần thờ phối hưởng bên cạnh Quan Công. Nhưng "Khâm định Việt sử thông giám cương mục" lại cho đó là tượng Lê Lai, công thần khai quốc đời Lê đã xả thân cứu chúa.
Năm Tự Đức thứ mười tám (1865), nhà nho Nguyễn Văn Siêu đứng ra tu sửa lại đền. Đền mới sửa đắp thêm đất và xây kè đá xung quanh, xây đình Trấn Ba, bắc một cầu từ bờ đông đi vào gọi là cầu Thê Húc. Trên núi Ngọc Bội cũ, ông cho xây một tháp đá, đỉnh tháp hình ngọn bút lông, thân tháp có khắc ba chữ "Tả Thanh Thiên" (viết lên trời xanh), ngày nay thường gọi đó là tháp Bút. Tiếp đến là một cửa cuốn gọi là đài Nghiên, trên có đặt một cái nghiên mực bằng đá hình nửa quả đào bổ đôi theo chiều dọc, có hình ba con ếch đội. Trên nghiên có khắc một bài minh nói về công dụng của cái nghiên mực xét về phương diện triết học. Người đời sau ca ngợi là: Nhất đài Phương Đình bút. Từ cổng ngoài đi vào có hai bức tường hai bên, một bên là bảng rồng, một bên là bảng hổ, tượng trưng cho hai bảng cao quý nêu tên những người thi đỗ, khiến cho các sĩ tử đi qua càng gắng công học hành.
Tên cầu Thê Húc nghĩa là giữ lại ánh sáng đẹp của mặt trời. Cầu Thê Húc dẫn đến cổng đền Ngọc Sơn, còn gọi là Đắc Nguyệt Lâu (lầu được trăng) dưới bóng cây đa cổ thụ, ở giữa một vùng cây cối um tùm, trông như từ dưới nước nhô lên. Đền chính gồm hai ngôi nối liền nhau, ngôi đền thứ nhất về phía Bắc thờ Trần Hưng Đạo và Văn Xương. Tượng Văn Xương đứng, tay cầm bút được đặt ở hậu cung trên bệ đá cao khoảng 1m, hai bên có hai cầu thang bằng đá. Phía Nam có đình Trấn Ba (đình chắn sóng- ngụ ý là cột trụ đứng vững giữa làn sóng không lành mạnh trong nền văn hoá đương thời). Đình hình vuông có tám mái, mái hai tầng có 8 cột chống đỡ, bốn cột ngoài bằng đá, bốn cột trong bằng gỗ. Các nhân vật được thờ trong đền ngoài Văn Xương Đế Quân, Lã Động Tân, Quan Vân Trường, Trần Hưng Đạo, còn thờ cả phật A Di Đà. Điều này thể hiện quan niệm Tam giáo đồng nguyên của người Việt.
Sự kết hợp giữa đền Ngọc Sơn và hồ Hoàn Kiếm đã tạo thành một tổng thể kiến trúc Thiên - Nhân hợp nhất, tạo vẻ đẹp cổ kính, hài hoà, đăng đối cho đền và hồ, gợi nên những cảm giác chan hoà giữa con người và thiên nhiên. Đền và hồ đã trở thành những chứng tích gợi lại những kỷ niệm xưa về lịch sử dân tộc, thức tỉnh niềm tự hào, yêu nước chính đáng, cũng như tâm linh, ý thức mỗi người Việt Nam trước sự trường tồn của dân tộc.
Đối với người Hà Nội, hồ Hoàn Kiếm không chỉ là một nơi hóng gió, một nơi dùng để chơi thuyền mà còn gắn liền với đời sống về nhiều phương diện: đêm giao thừa, người người nô nức du xuân quanh hồ. Xuân về, hồ là nơi gặp gỡ của thiện nam tín nữ đi lễ các đền chùa lân cận. Các đôi uyên ương trong ngày cưới tìm đến bên hồ Gươm chụp ảnh lưu niệm. Hè đến, những buổi chiều oi bức, hồ là địa điểm hóng mát lý tưởng. Ai đã từng một lần ngắm hồ từ trên cao vào đầu hạ sẽ không khỏi thảng thốt trước bức tranh đầy màu sắc và nên thơ của những cây bằng lăng tím rạng rỡ xen giữa những phượng cháy đỏ rực, cơm nguội chín vàng, những tàng cây ngả xuống, vòng tay ôm lấy mặt nước hồ biếc xanh màu ngọc. Mùa thu, hồ Hoàn Kiếm không những chỉ là một thắng cảnh đẹp với những rặng liễu rủ bên bờ, nắng vàng lấp lánh trên mặt nước mà còn là nơi nhân dân thủ đô lui tới để xem pháo hoa nhân những ngày hội lớn của dân tộc như 19/8 và 2/9.
Những di tích lịch sử độc đáo: tháp Rùa, tượng vua Lý Thái Tổ, đền Ngọc Sơn, đài Nghiên, tháp Bút, đền Bà Kiệu, chùa Bà Đá... và những công trình kiến trúc hiện đại, mới được xây dựng hoặc tu tạo nhưng luôn đảm bảo kết hợp hài hoà với cảnh quan vốn có quanh hồ. Hồ Gươm với đền Ngọc Sơn, cầu Thê Húc và tháp Rùa lung linh bóng nước là hình ảnh của thủ đô Hà Nội trong mỗi trái tim người Việt Nam.