Đình và đền Kim Liên (hay còn gọi là đền Cao Sơn) là trấn phía nam trong tứ trấn của kinh thành Thăng Long xưa, gồm bốn ngôi đền: Đền Quán Thánh (trấn giữ phía bắc kinh thành); Đền Bạch Mã (trấn giữ phía đông kinh thành); Đền Voi Phục (trấn giữ phía tây kinh thành); Đền Kim Liên (trấn giữ phía nam kinh thành). So với ba ngôi đền kia thì đền Kim Liên được xây dựng muộn hơn (khoảng thế kỷ 16 – 17).
Kim Liên là ngôi đền linh thiêng thờ thần Cao Sơn Đại Vương. Tương truyền thần là con trai của Lạc Long Quân và Âu Cơ, là một trong 50 người con theo mẹ lên núi, đã cùng Sơn Tinh chống lại Thuỷ Tinh mang lại bình yên cho nhân dân.
Theo tài liệu lưu giữ tại đền, đền Kim Liên được vua Lý Thái Tổ cho xây dựng ngay sau khi lập kinh đô Thăng Long nhằm mục đích bảo vệ kinh thành mới ở hướng Nam.
Sau này người dân làng Kim Liên đã lập thêm cổng tam quan, bổ sung một số kiến trúc mới tạo thành đình Kim Liên, trong đền và đình còn thờ Tam Phủ, thờ Mẫu…
Đình chính gồm nghi môn, đại bái và cung cấm. Trên các bộ phận kiến trúc các họa tiết trang trí được thể hiện sinh động, công phu mang phong cách nghệ thuật thời Nguyễn. Hậu cung là một nếp nhà ba gian dọc, xây gạch trần mái lợp ngói ta, trong nhà xây vòm cuốn…
Đền Kim Liên hiện còn lưu giữ được tấm bia đá cổ được dựng từ năm 1772 khắc thần tích và bài minh ca ngợi Thần được soạn từ năm 1510 và 39 đạo sắc phong của các triều đại.
Hàng năm vào ngày 16 tháng 3 âm lịch, người dân làng Kim Liên lại tổ chức mở hội truyền thống, nghe lễ tế để báo đáp ơn thần.
Với sự linh thiêng cùng lịch sử lâu đời, ngày này, đền và đình Kim Liên thực sự trở thành một di tích, địa chỉ tâm linh nổi tiếng đối với người Hà Nội nói riêng, du khách trong và ngoài nước nói chung.