Hồ Tây mới đầu chỉ là tên chung chỉ hồ ở phía tây bắc kinh thành. Gọi mãi trở thành tên riêng là Hồ Tây. Trong dân gian, Hồ Tây còn được gọi là hồ Trâu Vàng và còn có tên khác là Dâm Đàm (đầm mù sương). Theo tài liệu nghiên cứu của ông Bùi Văn Nguyên trong "Cảnh trí Hồ Tây" xuất bản năm 1978″ thì tên Dâm Đàm còn được sử dụng đến năm 1573 (đời nhà Trần, nhà Lý). Khi vua Lê Thế Tông lên ngôi, người ta mới tránh gọi hồ là Dâm Đàm, vì tên húy của vua là Duy Đàm, thay vào đó là Hồ Tây.
Sách "Tây Hồ chí" còn ghi, Hồ Tây có từ thời vua Hùng. Lúc ấy, nơi đây là một bến ở cạnh sông Hồng, thuộc động Lâm Ấp, nên gọi là bến Lâm Ấp của thôn Long Đỗ. Mãi tới thời Hai Bà Trưng, bến này thông với sông Hồng. Chung quanh bến Lâm Ấp là một rừng lim rậm rạp có nhiều hang động. Người già ở địa phương còn cho biết, khi đánh cá, thỉnh thoảng họ vớt được những khúc gỗ lim ở dạng trầm tích. Về địa lý, Hồ Tây là hồ ngoại sinh, có dạng lòng chảo. Hồ tạo thành chủ yếu là do tác dụng xâm thực của sông Hồng. Nhưng trong dân gian có nhiều truyền thuyết về sự hình thành Hồ Tây.
Truyền thuyết Hồ Trâu Vàng kể lại rằng, đời nhà Lý, ở nước ta có Nguyễn Minh Không sang Trung Quốc chữa bệnh cho con vua Tống. Khi hoàng tử khỏi bệnh, vua Tống trả ơn bằng cách cho phép Minh Không vào kho báu lựa đồ theo ý thích và muốn lấy bao nhiêu cũng được Minh Không hóa phép chỉ lấy đồng đen (vì đồng đen được coi là "mẹ" của vàng) và thu hết cho vào một bao mang về dâng vua Lý. Vua sai đem chỗ đồng đen ấy đúc thành cái chuông. Chuông đúc xong mang ra đánh thử. Tiếng chuông vang xa ngàn trùng đến tận Trung Quốc. Nghe tiếng chuông ngân, trâu vàng ở bên ấy lồng lên chạy về nơi phát ra tiếng chuông. Đến khu rừng phía bắc Thành Thăng Long thì tiếng chuông im bặt. Trâu vàng mất hướng đi, lồng lên đi tìm và giẫm nát cả một khu rừng, còn đất thì lún xuống thành hồ. Những nơi trâu đi thành sông mà ngày nay còn lại di tích, đó là sông Kim Ngưu. Nhà vua đã sai ném cả chuông lẫn trâu vàng xuống hồ để trâu khỏi lồng lên. Và hồ ấy chính là Hồ Tây ngày nay. Truyền thuyết còn kể, nếu ai sinh đủ 10 người con trai thì có thể đến hồ gọi trâu vàng về. Một lần có người đến gọi được trâu vàng lên khỏi mặt nước, dắt trâu vào bờ. Bỗng nhiên, thừng bị đứt, trâu vàng chui ngay vào hang ở gần đó. Nơi đó nhân dân lập đền thờ gọi là đền Kim Ngưu trên đường vào phủ Tây Hồ hiện nay. Về sau mới biết, người gọi trâu chỉ có 9 con trai ruột và 1 con trai nuôi.
Một truyền thuyết khác kể rằng. Xưa kia ở núi đá Tản Viên, có hang mà con cáo (hồ tinh) chín đuôi hay lên quậy phá làm hại nhân dân. Thấy vậy Thượng Đế sai Long Vương dâng nước phá hang của cáo. Cáo chín đuôi bỏ chạy. Quân thủy của Long Vương đuổi theo bắt cáo. Nơi cáo bị giết thịt trở thành cái đầm sâu gọi là Đầm Xác Cáo mà ngày nay gọi là Hồ Tây. Ở vùng Xuân Đỉnh đến nay vẫn còn có làng Cáo. Có lẽ địa danh này có liên quan đến truyền thuyết về Đầm Xác Cáo. Dân gian còn kể: Ngày xưa Trấn Vũ là một người có tài và có công trừ yêu, dẹp giặc nhiều lần, nhưng không chịu làm quan. Ông chỉ muốn đi tu cho đủ chín kiếp mười đời để thành Phật. Lý do tu đủ 10 đời cũng được nhân dân tương truyền lại. Qua rất nhiều thử thách, đã có lần ông bị Phật Bà phạt vì không dám đỡ đẻ cho một phụ nữ gặp trên đường. Ông bị Phật Bà cho rằng bản lĩnh tu hành chưa cao, tránh khó khăn và bắt Trấn Vũ tu thêm một kiếp nữa. Ông đã có ý chán nản, nhưng thực tế cuộc sống, những người ông gặp đã củng cố lòng kiên nhẫn của ông. Ông tiếp tục tu hành để trở thành người có đạo đức cao siêu, vừa có phép thuật siêu cao (mà sau này ông là một trong bốn vị thần của Hà Thành).