Đình Tâng được xây dựng vào thời Nguyễn thế kỉ XIX, những năm 20 của thế kỉ XX được trùng tu tôn tạo, việc trùng tu tôn tạo này do các quan viên, hương lão và các hội chủ trong tổng Thạch Khôi công đức tiền và vật liệu xây dựng; họ tên những người công đức được khắc vào bia được gọi là bia Hậu thần để lưu truyền cho hậu thế.
Tương truyền, Đình trước đây có không gian rộng, cảnh quan đẹp dưới tán cây cổ thụ và hạng mục công trình kiến trúc nối tiếp nhau. Từ ngoài vào là nghi xây bề thế, trụ cột có các đôi câu đối chữ Hán ca ngợi công đức của các vị thành hoàng. Đầu cột đắp nghê trong thế đối xứng nhau. Trong nghi môn là sân Đình, lát gạch đỏ để tổ chức các hoạt động lễ hội và các trò chơi dân gian như: đánh võ, hát chèo, hát văn, hát ca trù.... Hai bên sân là hai dãy dải vũ, mỗi dãy ba gian chất liệu gỗm mái lợp ngói mũ. Sau dãy dải vũ phía Tây Nam là nhà hậu ba gian, xây bằng gạch, lợp ngói ta, mặt tiền quay về hướng Đông Nam là nơi thờ những người có công đóng góp tiền, ruộng cho làng, sau khi mất được làng thời làm Hậu
Trước ngày tổng khởi nghĩa, Đình Tâng là nơi nuôi giấu cán bộ. Tại đây đã thành lập ủy ban khởi nghĩa giành chính quyền cách mạng – bầu chủ tịch lâm thời. Phát động phong trào “Kháng Nhật cứu nước" tiến tới tổng khởi nghĩa giành chính quyền. Đình Tâng là nơi tập trung toàn thể nhân dân trong xã tổ chức mít tinh biểu tình, giành chính quyền từ tay đế quốc và phong kiến tay sai.
Cuộc cách mạng tháng Tám thành công, nhân dân ta đứng trước những thử thách to lớn đó là “giặc đói", “giặc dốt", và giặc ngoại xâm. Đình Tâng là nơi tổ chức các lớp học bình dân học vụ xóa nạn mù chữ cho nhân dân trong làng.
Ngày 6 tháng Giêng năm 1946 tại đình đã tổ chức lễ bầu cử chính quyền của xã thông qua hình thức phổ thông đầu phiếu để lập ra chính quyền nhà nước mới ở cấp xã.
Sau cách mạng thực dân Pháp trở lại xâm lược nước ta. Để đáp ứng yêu cầu về lực lượng cho cuộc kháng chiến chống Pháp đình Tâng cũng là nơi tập trung thanh niên của xã lên đường nhập ngũ bảo vệ đất nước.
Năm 1950 – 1951, để thực hiện ý đồ chiếm lại nước ta thực dân Pháp đã phá Đình để xây dựng đồn bốt và chúng cho phá cả những ngôi miếu xung quanh để xây dựng tháp canh.
Đình Tâng hiện nay được xây dựng tại vị trí cũ, giữa thôn Tranh Đấu và Tằng Hạ trên khu đất cao và thoáng, quay về hướng Đông Nam. Trước Đình có đường liên thôn chạy qua và khu chợ của thôn, phía Đông Nam của Đình là đường xóm, Phía Tây Bắc là giếng làng và cây đa cổ thụ đã tạo thành không gian yên bình, thanh tịnh của nơi thờ tự.
Trong khuôn viên của Đình hiện nay còn miếu thờ công chúa Tiên Châu (vợ của đức Thánh cả.
Theo các cụ cao niên kể lại, đình xưa có khuôn viên rộng. Đình có kiến trúc kiểu chữ "Đinh" gồm 5 gian Đại bái và 3 gian hậu cung, chất liệu làm bằng gỗ Tứ thiết xây theo kiểu Đao tàu déo góc, mái lợp ngói mũ truyền thống. Ngoài những công trình chính trên khuôn viên của đình còn có một số công trình khác như: Giếng đình, chùa, trường học, miếu Cầu, hai dãy dải vũ và lăng Mẫu.
Năm 1991 thể theo nguyện vọng của chính quyền và nhân dân trong thôn, ngôi đình đựơc xây dựng lại như hiện nay.
Hiện tại, Đình có kiến trúc kiến trúc kiểu chữ "Đinh" gồm: 7 gian đại bái và 2 gian hậu cung, chất liệu bằng bê tông cốt thép, hoành rui bằng gỗ tứ thiết, vì kèo kiểu "Gía chiêng, chồng rường". Hậu cung có kết cấu giống toà đại bái.
Hiện tại đình còn lưu giữ nhièu cổ vật như: 01 ngai và bài vị ( thời Hậu Lê); 05 ngai và bài vị thời Nguyễn; 02 tấm bia đá (thời Nguyễn), đặc biệt là 09 đạo sắc phong (thời Nguyễn ).
2) Giá trị lịch sử:
Căn cứ vào thần tích còn lưu giữ và lưu truyền nhân dân, thì Đình là nơi tôn thờ Sáu vị đại vương đó là:
- Đức thánh cả Hùng Nghị Đại Vương huý là Cả;
- Đức thánh hai Đô Vệ Đại Vương huý là Hai;
- Đức thánh ba Đô Linh Đại Vương huý là Ba ;
- Đức thánh tư Đô Sĩ Đại Vương huý là Tư;
- Đức thánh năm Đô Lang Đại Vương huý là Năm;
- Đức thánh sáu Đô Uý Đại Vương huý là Sáu ;
Các ngài có công giúp vua Lý đánh giặc Chiêm Thành và "âm phù" vua Lê Thái Tổ đánh giặc Minh, trải qua các triều đại phong kiến được ban thưởng sắc phong và lập được lập đình để thờ tự.
Lúc bấy giờ con gái nhà Vua tên là Tiên Châu đã đến tuổi lấy chồng. Nhà Vua thấy đức Thánh Cả tư chất sáng ngời, dung mạo hơn hết, nên cho mời vào kinh và gả con gái cho. Công chúa lấy chồng được một thời gian thì nhà Vua mất,con là thái tử Phật Mã lên ngôi kế vị. Thời bấy giờ có giặc Chiêm Thành ở phía Nam thường đem quân sang quấy phá, xâm lấn bờ cõi nước ta, khiến nhân dân trong vùng không được yên ổn. Thấy vậy, nhà vua xuống vời chiếu đức Thánh cả cùng năm người anh em vào trong kinh cùng hội nghị, bàn kế sách đánh giặc.
Sau khi đánh giặc Chiêm Thành thì trở về tới sông Lục Đầu thuộc địa phận làng Kiếp Bạc thì bỗng dưng thấy có đám mây vàng từ trên trời bay thẳng xuống trước sáu ông theo đám mây bay ra đến giữa sông thì biến mất, hôm ấy là ngày mùng 10 tháng 10. Sau khi hóa, công chúa buồn bã vô cùng, trở về lập đàn làm lễ tế. Đến ngày 15 tháng 10 bà trở lại Kinh thành trên đường đi đến làng Tâng Thượng bà ngửa mặt lên trời mà than rằng:“ Con gái trinh tiết chẳng lấy hai đời chồng ắt chết một lần" và bà gieo mình xuống sông tuẫn tiết. Khi bà chết bỗng dưng có mối đùn lên thành ngôi mộ, dân làng thấy lạ liền làm tờ biểu dâng Vua. Nhà vua cho rằng công chúa hẳn có công rất lớn, liền ra lệnh cho dân làng lập Miếu thờ và sai sứ về làng làm lễ tế tự, sắc phong cho công chúa lam Tích Hộ Đại Vương và ra phong hiệu cho 6 vị tướng.
Có thể nói, Đình Tâng là di tích thờ các nhân vật xuất thân từ người nông dân- áo vải chân nấm tay bùn trong đời sống thường ngày, họ có tinh thần ái quốc thương nòi sẵn sang hi sinh vào sinh ra tử trên trận mạc giúp triều đình đánh đuổi giặc ngoại xâm, bảo vệ bờ cõi biên cương đất nước. Với những công lao đó, các triều đại sau này đều nghi nhớ công ơn và gia phong cho các vị thần. Sau khi đánh thắng giặc Nguyên, vua Trần Thái Tông có tặng phong cho 6 vị đại vương: “Đương cảnh Thành Hoàng, phò dực uy dũng, phù hiển chiêm cảm linh ứng, anh triết, đương lộ thuận đại vương".
Đời vua Lê Thaí Tổ phong cho vị là: “ Phổ tố cương nghị anh linh đại vương". Bà mẹ và nàng công chuá được tấn phong thần
Lễ hội trước cách mạng tháng 8 năm 1945:
- Trước Cách mạng tháng 8/ 1945 tại di tích diễn ra nhiều sự lệ như:
Ngày 03 tháng 07 âm lịch là Lễ cúng cơm.
Ngày mùng 10 tháng 10 là Lễ cúng cơm mới.
Ngày 17 tháng giêng là lễ Hoá thần Hoàng làng
Hội chính diễn ra trong vòng 10 ngày (từ mồng 7 đến 17 tháng Giêng). Trong đó ngày 15 tháng Giêng là trọng hội. Lễ vật dâng Thánh gồm: mâm xôi, thủ lợn, hương đăng trà quả, trầu, rượu... Phần lễ có tổ chức rước, đoàn rước bắt đầu từ đền Vàng (nơi thờ thân mẫu của 6 vị Thành hoàng) rước về đình tổ chức tế.
Trải qua nhiều biến thiên cuả thời gian và thăng trầm của lịch sử Lễ hội ngày nay có đơn giản một số nghi thức, nghi lễ trong lễ hội. Bên cạnh đó bổ sung một số nội dung và trò chơi phù hợp với điều kiện và tình hình trong thời đại mới. Lễ hội ngày nay được tổ chức có tên “Lễ hội truyền thống mùa xuân" được tổ chức do chính quyền và nhân dân hai thôn Tranh Đấu và Tằng Hạ đứng ra tổ chức. Lễ hội diễn ra trong vòng ba ngày từ ngày mồng 7 đến ngày mồng chín tháng Giêng.
