Họa Mi tên thật là Trương Thị Mỹ sinh ngày 01/05/1955 và đi hát từ năm 15 tuổi. Năm 1972, khi còn là nữ sinh trường Gia Long, bà được Đoàn Chính (em trai nhạc sĩ Đoàn Chuẩn) gợi ý thi vào lớp thanh nhạc tại Trường Quốc gia Âm nhạc và Kịch nghệ ở Sài Gòn. Bấy giờ bà chưa có ý định làm ca sĩ mà mơ ước làm bác sĩ.
Trước khi có nghệ danh như hiện nay, Họa Mi từng lấy nghệ danh là Trường My khi hát ở đài truyền hình, trường học, nhạc viện. Họa Mi học trường âm nhạc đến năm thứ ba thì nhạc sĩ Hoàng Thi Thơ đề nghị lăng-xê bà thành ca sĩ chuyên nghiệp. Hai tuần sau đó, bà lần đầu tiên lên sân khấu nhà hàng Maxim's với nhạc phẩm "Đưa em xuống thuyền" của Hoàng Thi Thơ. Chính tại sân khấu này, cái tên "Họa Mi" đã ra đời. Bà kể lại: bản chương trình ở Maxim's ghi tên ca sĩ là Họa Mi, khiến bà thắc mắc liệu có phải là nhầm lẫn. Nhạc sĩ Hoàng Thi Thơ đáp lại: "Bắt đầu từ hôm nay, cháu là Họa Mi chứ không phải là Trường My nữa." Sở dĩ như vậy là vì Hoàng Thi Thơ muốn đào tạo một số ca sĩ với nghệ danh toàn các loài chim quý, bắt đầu là từ Sơn Ca. Họa Mi tốt nghiệp trường nhạc năm 1974.
Sau sự kiện 30 tháng 4 năm 1975, Họa Mi theo học ngành Luật, cho đến một ngày nhạc sĩ Ngọc Chánh mời bà đi hát lại ở đoàn ca nhạc hát chung với đoàn Kim Cương, nơi tụ hội Thanh Phong, Phương Đại, Thái Châu, Lệ Thu, Thanh Tuyền, Sơn Ca,... Từ đó đến khi sang Pháp, Họa Mi đã đi lưu diễn khắp các miền của Việt Nam.