История сада начинается в конце XVIII века, когда князь М. П. Голицын подарил Москве часть своей усадьбы (ныне по Старой Басманной, 15). Сад был открыт для свободного посещения.
В 1900-х годах к саду были присоединены парки усадеб Чулковых-Ростопчиных (Новая Басманная улица, 16) и Левашовых (Новая Басманная улица, 20). В нынешних границах сад появился весной 1920 года под названием Сад имени 1-го мая. В это время к существующему саду была присоединена территория усадьбы золотопромышленника и чаеторговца Н. Д. Стахеева (Новая Басманная, 14; в зданиях расположился Центральный дом детей железнодорожников). В 1922 году сад был переименован в честь Н. Э. Баумана в связи с близостью к Бауманской улице.
В Саду работает открытая концертная эстрада, построенная в 1920х — 1930х годах, где выступали Леонид Утёсов, Клавдия Шульженко и другие звезды советской эстрады. Здесь снимался любимый многими фильм «Покровские ворота».
Символом парка служит памятник-бюст Н. Э. Бауману (1972), установленный на основной аллее Сада. Зимой в парке работает каток рядом с эстрадой, летом — велопрокат, а также есть уличные тренажеры в Work-out зоне.