Sự ra đời của ngôi chùa này gắn với những giai thoại lịch sử vô cùng lí thú. Được xây dựng vào mùa đông tháng mười Âm lịch năm 1049, theo truyền thuyết thì chùa được xây dựng theo giấc mơ của vua Lí Thái Tông và gợi ý thiết kế của nhà sư Thiền Tuệ. Thời đó, đạo Phật với tư tưởng từ bi hỉ xả hết sức nhân văn đang được trọng dụng. Một đêm, nhà vua nằm mơ thấy được Phật Bà Quan Âm dắt lên toà sen. Nhà vua bèn vời nhà sư Thiền Tuệ vào triều để hỏi về giấc mộng của mình. Theo gợi ý của nhà sư, vua Lí Thái Tông đã cho xây dựng ngôi chùa này. Ban đầu chùa có tên là Diên Hựu với ý nghĩa lâu dài mãi mãi, sau này chùa mới được đổi theo nhiều tên gọi khác nhau và cái tên Một Cột được giữ lại đến ngày nay là dựa vào đặc điểm, hình dáng vô cùng độc đáo, đặc sắc của ngôi chùa.
Chùa hoàn toàn được xây dựng theo lối kiến trúc cổ truyền. Chùa có kết cấu bằng gỗ, trong chùa đặt tượng Phật Bà Quan Âm nghìn tay để thờ. Bao quanh chùa là một hồ nước nhỏ có tên là Linh Chiểu. Chùa bao gồm đài Liên Hoa hình vuông, chiều dài mỗi cạnh 3m, mái cong dựng trên cột cao 4m, có đường kính là l,2m và một cột đá hai khúc chồng lên nhau thành một khối. Chùa có một hệ thống những đòn gỗ làm giá đỡ rất quy mô. Đài Liên Hoa có mái ngói mà bốn góc uốn cong, trên có hình lưỡng long triều nguyệt. Hình ảnh ngôi chùa nhô lên khỏi mặt nước, khiến cho ta nghĩ đến hình tượng bông sen vươn thẳng lên khỏi ao hình vuông, xung quanh bao bọc bằng hàng lan can làm men những viên gạch sành tráng men xanh. Trong chiếc hồ nhỏ bao quanh chùa có trồng rất nhiều hoa sen. Với những dịp xuân về những bông sen đua nhau nở hoa, toả hương thơm ngát, làm tăng thêm vẻ đẹp trang nghiêm cho chùa. Kiến trúc đơn giản mà tinh tế ấy đã tạo cho chùa Một Cột nét đẹp giản dị, tao nhã; nó thể hiện cái hồn cốt thanh cao của văn hóa Hà Nội nghìn năm văn hiến.
Chùa hiện nay năm trong khu di tích gồm cả Bảo tàng Hồ Chí Minh, khu Lăng của Bác và trở thành điểm nhấn cho quần thể di tích này. Vào những dịp lễ tết mọi người lại đến chùa thắp hương khấn Phật mong điều an lành cho gia đình và bản thân.
Chùa Một Cột đã trở thành biểu tượng truyền thống của văn hoá Hà Nội. Với ý nghĩa đó, địa danh này đã được chọn làm biểu tượng cho Thủ đô Hà Nội và đài truyền hình Hà Nội, ngoài ra chùa còn được thấy ở mặt sau đồng tiền kim loại 5000 đồng.
Chùa Một Cột đã trở thành một chứng nhân lịch sử của những năm tháng thăng trầm của Hà Nội. Cho dù đã qua nhiều lần trùng tu nhưng chùa vẫn không mất đi vẻ đẹp giản dị và thiêng liêng. Và chắc hẳn dù có đi đến đâu con người Việt Nam cũng sẽ tự hào kể cho bạn bè năm châu được biết về di tích lịch sử này.