Ngày trước, Thung Nai là một vùng đất khá trù phú, nơi sinh sống của người Mường, là một trong những xứ Mường nổi tiếng của đất Hòa Bình, xứ Mường Thàng. Sau khi làm xong thủy điện, nước sông Đà dâng lên ngập khắp các thung lũng, lên tận lưng chừng những đỉnh núi đá vôi, tạo nên các đảo nhỏ, huyền ảo như Hạ Long trên cạn thứ hai ở miền Bắc sau Tam Cốc – Bích Động ở tỉnh Ninh Bình.
Khi sông Đà chưa ngăn dòng làm thủy điện, Thác Bờ - ghềnh Hoa rất hiểm trở, dữ dằn, thuyền bè qua lại bị đắm nhiều. Dân cất công lập nên Đền Bà chúa để cầu mong bà che chở, phù hộ cho những chuyến xuôi ngược, đánh cuộc tính mạng với sông Đà.
Đền nằm trong khu vực Thác Bờ giữa dòng sông Đà thuộc xã Vầy Nưa, huyện Đà Bắc. Đền Bờ gồm có đền Trình (đền Chúa) và đền Chầu (đền ông Chẩu). Trên đền thờ hội đồng các quan, thờ Đức Đại Vương Trần Triều, thờ Chúa Thác Bờ và thờ Sơn Trang, nhưng chủ yếu vẫn là thờ hai bà Chúa Thác người Mường và người Dao.
Theo tương truyền, Đền Bờ thờ bà chúa Thác Bờ là Đinh Thị Vân người dân tộc Mường và một bà người dân tộc Dao bà người Dao ở Vầy Nưa lo liệu quân lương, thuyền mảng (không rõ tên). Hai bà đã có công giúp vua Lê Lợi về quân lương, thuyền mảng vượt thác Bờ tiến quân lên Mường Lễ, Sơn La dẹp loạn đảng Đèo Cát Hãn. Sau khi mất, 2 bà thường hiển linh giúp dân vượt thác an toàn, phù hộ cho trăm dân trong vùng mưa thuận, gió hòa nên nhân dân đã phong 2 bà làm thánh và lập đền thờ phụng.
Đền thờ cũ chìm dưới hàng chục mét nước của thủy điện Hòa Bình. Đền thờ ngày nay được lập bên trên nền của đền thờ cũ, lúc nào cũng tấp nập khách thập phương đến hành lễ, hầu đồng.
Lâu nay, người dân trong vùng tôn vinh hai bà là "Chúa Thác Bờ", hàng năm vẫn mở hội đền vào ngày 7 tháng Giêng âm lịch. Tuy nhỏ nhưng vẫn cho cảm giác uy nghi bởi hòa vào tổng thể cảnh quan núi non sông nước hùng vĩ. Đặc biệt, đền có rất nhiều tượng, với 38 pho lớn nhỏ. Trong đó có hai pho tượng đồng là tượng thờ chính…
Vào thăm động Thác Bờ với nhiều tầng, thạch nhũ muôn hình lung linh soi bóng nước, có cây vàng, cây bạc, ô trời, lọng trời,… Động Thác Bờ nằm ở sườn núi phía Bắc của dẫy núi Chúa nhìn ra mặt sông. Động có chiều sâu tới hơn 100m. Lòng động gập ghềnh, nhấp nhô chỗ rộng, chỗ hẹp, nơi rộng nhất tới 20m. Đặc biệt, tạo hóa ban tặng dàn đàn đá, dàn cồng chiêng Mường với vẻ đẹp tuyệt mỹ.
