W roku 1887 w południowo-zachodnim kwartale powstał Gaj Muz z cieplarnią i rozarium. Stanowił on przedłużenie wybudowanej w 1885 roku Palmiarni i w okresie letnim wystawiano w nim egzotyczne rośliny. Początkowo tę część parku nazywano Musenhain _ Gaj Bananowców, pyszniły się tutaj bowiem bananowce, których łacińska nazwa to Musa ensete.
"Około 60 sztuk tych roślin ustawiono w luźnym układzie, wśród palm i liliowców. Pierwszy plan zajmują wspaniałe dywany kwiatowe. Musenhain tworzy cudowny widok, kiedy jest podświetlany. Rzędy kolorowych lampek rzucają światła, układają się w dywanowe ornamenty, wielobarwne ognie bengalskie oświetlają tropikalne formacje roślin, a wszystko to przenosi widza w krainę baśni z tysiąca i jednej nocy’’. Kiedy w 1899 roku, w pierwszym letnim sezonie po otwarciu palmiarni, ekspozycja egzotycznych roślin wzbogacona została o nowe palmy, całość zaczęto nazywać Gajem Tropikalnym (Tropenhain) lub Palmowym (Palmenhein).
Za: Grażyna Humeńczuk ,,Z dziejów Parku Miejskiego w Legnicy’’ Muzeum Miedzi w Legnicy 2010. "
W 1910 roku, po Niemieckiej Wystawie Róż i Dalii wybudowano okazałą pergolę ze schodami i sadzawkę o powierzchni 800 m2 z podgrzewaną wodą. Hodowano tam egzotyczne rybki i rośliny. Można było podziwiać okazy wiktorii królewskiej, grzybienie w różnych formach i kolorach oraz lotosy. Wokół stawu rosły natomiast bambusy i trzcina cukrowa.
To urokliwe i romantyczne miejsce zaczęło niszczeć po drugiej wojnie światowej. Wysiedlani Niemcy zdemontowali większość urządzeń wystawowych, a Wojska Radzieckie dokonały zniszczenia. Park stał się miejscem niebezpiecznym i zaniedbanym. Gaj Muz stracił dawny urok i mało kto zapuszczał się w te rejony. Zarośnięty, z obdartymi kolumnami pergoli, nie zachęcał do odwiedzenia. Jednym z tragiczniejszych momentów w dziejach parku była powódź w 1997 roku. Wezbrane wody Kaczawy zalały znaczne obszary Legnicy i parku usytuowanego nad brzegiem rzeki. Wysoka woda i szlam popowodziowy zniszczyły większość szaty roślinnej parku, a w tym Gaju Muz. Wyginęły wtedy cenne, rzadkie i bardzo wrażliwe byliny i krzewy.
Kolejnym ciosem był huragan w 2009 roku. Zniszczył on ok 2500 drzew w tym ok. 1000 o najwyższej wartości kulturowej. Na szczęście już 2 lata po huraganie zakończono rewitalizację parku, z zachowaniem dziewiętnastowiecznej stylistyki. Gaj Muz wiele zyskał przez te lata. Odnowiono zabytkową altanę, której białe kolumny przeglądają się w stawie, zwanym obecnie "Żabim Dołkiem".
Romantyczna budowla z antycznymi kolumnami znowu przyciąga zakochane pary.
Starą fontannę zastąpiono nowoczesnym tworem.
Gaj Muz o każdej porze roku zachęca do odpoczynku.
Przy żwirowych alejkach ustawiono ławki, a teren wokoło obsadzono rabatami pełnymi hortensji i funkii.
Dawniej była tutaj drewniana altana, z której obecnie pozostała jedynie podmurówka. Być może i temu miejscu zostanie przywrócony dawny wygląd.
Legnicki park pięknieje z sezonu na sezon. Utworzono w nim również ścieżkę edukacyjną z tablicami informacyjnymi. Dzięki nim można poznać historię i teraźniejszość tego miejsca. Stare fotografie ukazują park jako miejsce naprawdę niezwykłe, przepiękne i bogate w ciekawe budowle i rośliny.