Được xây dựng sớm nhất trong tứ trấn, đền Bạch Mã cùng với thần Long Đỗ là một biểu tượng chính trực chống lại các thế lực hắc ám, bảo vệ đời sống an lành. Thần tích ghi lại cuộc đấu phép ly kỳ giữa thần Long Đỗ và Cao Biền, một viên tướng ngoại bang từng đô hộ nước Nam.
Theo sử liệu, Cao Biền là nhân vật có thật, được nhà Đường phong làm Tiết độ sứ, sang cai trị nước ta vào khoảng năm 866. Cả trong sử sách và truyền thuyết, viên tướng này đều được miêu tả là kẻ có nhiều quỷ thuật: Nào là có thể cưỡi chim thần du ngoạn trên trời, nào là có tài “vẫy đậu thành binh”…
Dù có nhiều tài phép, Cao Biền vẫn phải chịu thất bại ngay ở thủ phủ khi đó là thành Đại La. Tương truyền, khi đó Cao Biền cho xây dựng thành Đại La, vừa để bảo vệ bộ máy cai trị, vừa tiện tay trấn yểm các thế đất tốt ở nơi này. Vừa đắp và trấn yểm xong một vòng thành, trời bỗng tối đen như mực.
Trong cơn nửa mê nửa tỉnh, Cao Biền trông thấy một vị thần cưỡi rồng bay một vòng quanh thành vừa đắp. Tỉnh dậy, biết đó chính là thần bảo vệ miền đất, Cao Biền lập tức nghĩ ra quỷ kế. Y dùng vàng và đồng đúc thành bức tượng giống người trong mơ, rồi dùng các loại bùa dán vào để trấn yểm.
Ngay đêm đó, trời đang quang đãng bỗng sấm sét nổi lên ầm ầm, vị thần lại xuất hiện, cả cười mà rằng: “Ta là thần Long Đỗ, tinh anh của khí thiêng sông núi nơi này, ngươi việc gì phải mất công trấn yểm”. Vị thần biến mất, Cao Biền giật mình tỉnh giấc, vô cùng sợ hãi. Đến sáng hôm sau, y đi kiểm tra lại những chỗ đã trấn yểm, kinh hoàng khi thấy dù là đồng, sắt hay kim loại gì cũng đều nát vụn ra như cám.
Hiểu rằng các quỷ thuật của mình đã thất bại, Cao Biền than với hầu cận “Đất này có thần linh, ta không thể thắng nổi, sớm muộn cũng phải cuốn gói mà đi thôi”. Rồi để tạ tội, Cao Biền cho xây dựng một ngôi đền chính ở nơi đã diễn ra trận chiến phép thuật, thuộc cửa Đông thành Đại La [39].
Đây chính là đền Bạch Mã sau này. Và dự cảm xấu của y cũng không sai. Sau đó một thời gian, đế chế nhà Đường suy vong. Hào trưởng Khúc Thừa Dụ nhân cơ hội này vùng lên chiếm giữ thành Đại La, mở ra giai đoạn trăm năm chuyển hóa từ Đại La thành sang Thăng Long thành.
Thần Long Đỗ cùng đền Bạch Mã trở thành “Đông trấn” ngay từ lúc đánh bại mọi quỷ thuật của Cao Biền. Nhưng có một câu hỏi, tại sao chỉ “Đông trấn” mà không phải là các trấn khác, mới được dân gian coi là Thành Hoàng của đất Thăng Long? Câu trả lời đến vào khoảng 200 năm sau, khi vua Lý Thái Tổ dời đô từ Hoa Lư ra Đại La thành.
Theo thần tích, khi xây đền tạ tội, Cao Biền cho dựng tượng thần Long Đỗ như trong giấc mơ và ngôi đền chỉ thờ vị thần này. Mãi đến năm 1010, nhận thấy thành Đại La là thắng địa, là nơi “cư ngụ của đế vương muôn đời”, vua Lý Thái Tổ mới quyết định chọn đây để xây dựng kinh thành. Mộng thấy rồng vàng bay lên, vua đổi tên Đại La thành Thăng Long.
Trong quá trình xây thành, dù triều đình huy động rất nhiều tiền của cũng như sức dân, không hiểu vì lý do gì, thành vẫn bị sụt lún. Nhiều khoảng thành cứ đêm trước đắp xong, sáng hôm sau lại đổ.
Dò hỏi các bậc cao niên, biết tiếng đền thờ thần Long Đỗ linh thiêng, nhà vua đích thân đến làm lễ cầu khấn. Lời nguyện cầu linh ứng, trong đền bỗng xuất hiện một con ngựa trắng chạy ra, đi một vòng từ Đông sang Tây hoàng thành rồi trở về đền và biến mất. Biết ngựa trắng là hiện thân của thần, nhà vua cứ theo dấu chân ngựa để lại mà đắp lũy, quả nhiên đắp đến đâu vững đến đó.
Thành Thăng Long hoàn thành, nhà vua sai tạc tượng ngựa trắng để muôn đời sau thờ phụng. Đền thờ thần Long Đỗ từ đó có tên là đền Bạch Mã. Sau thần tích về ngựa trắng này, thần đền mới được coi là Thành hoàng của đất Thăng Long. Giống như ý nghĩa của các vị Thành hoàng được thờ phụng ở nhiều ngôi
làng trên nước Việt, đó là vị thần có công mở mang làng xã, bảo vệ người dân, hoặc đơn giản có khi chỉ là ông tổ của một nghề thủ công nào đó. Tương tự như thế, thần Long Đỗ trong hiện thân ngựa trắng, đã có công trong việc đặt nền móng đầu tiên, mở ra đất kinh kỳ ngàn năm văn hiến [39].
Trải qua thời gian và chiến tranh, ngôi đền vẫn đứng đó như một minh chứng cho sức sống bất diệt của con người và nền văn hóa Việt Nam. Ở đây hiện lưu lại bài thơ của Thái sư Trần Quang Khải ca ngợi ngôi đền linh thiêng vẫn vẹn nguyên sau ba lần kháng chiến chống quân Nguyên Mông: “Hoả bốc tam khu thiêu bất tận/ Phong lôi nhất trận phiến nan khuynh”. (Tạm dịch nghĩa: “Lửa đốt bao phen không thể cháy/ Phong ba một trận chẳng hề long”) [39]. Trong cuộc kháng chiến chống Mỹ, B52 rải thảm ở miền Bắc, mọi thứ xung quanh đền đều bị tàn phá, riêng ngôi đền vẫn còn đó, thách thức cả đạn bom. Đây quả là một hiện tượng kỳ lạ.
Với hơn 1.000 năm tuổi, đền Bạch Mã là di tích lịch sử văn hóa đặc biệt có giá trị, là một trong những chứng tích quan trọng về lịch sử, văn hóa, kiến trúc, nghệ thuật cũng như đời sống tinh thần của Hà Nội ngay trong lòng phố cổ với nhiều nét đặc sắc về lịch sử và triết học, về huyền tích vị Thần được thờ. Ðền Bạch Mã mãi mãi là biểu tượng của kinh thành Thăng Long nghìn năm văn hiến có ý nghĩa giáo dục truyền thống dựng nước, giữ nước trong mọi thế hệ. Ðền đã được Nhà nước xếp hạng di tích lịch sử cấp quốc gia năm 1986.