Название переулка Бульварного связано с широкой аллеей (бульваром), которая была расположена вдоль переулка.

Переулок Бульварный один из старейших в Рубцовске. На переулке расположены в основном административные здания (администрация города Рубцовска, швейная фабрика, комитет по образованию администрации города Рубцовска и др.).

В 20-е гг. XX в. переулок Бульварный пролегал от железной дороги до реки Алей. Район Бульварного переулка был центром Рубцовска. В переулке располагались здания горисполкома, школа имени Кирова, здание хирургического отделения городской больницы № 1, дом Крестьянина.

Южнее переулка Бульварного располагался рынок. У центрального входа на рынок (там, где сейчас стоит памятник С.М. Кирову) стояла арка - деревянное сооружение в виде ворот, отделанное резьбой. А на территории современного сквера Комсомольской славы стояла красочно оформленная карусель - любимое место детворы.

В здании по пер. Бульварному с 1917 до 1930 года находилась биржа труда, которая закрылась после того как в городе не осталось не одного безработного. Затем в этом доме располагались отделы Рубцовского райисполкома, в том числе районный отдел народного образования. В настоящее время это здание снесено.

В здании охотобщества по адресу пер. Бульварный, 19 размещалось отделение НКВД. В подвале этого дома содержались заключенные по линии НКВД жители г. Рубцовска и Рубцовского района.

В 80-е годы ветераны Рубцовского пехотного училища предлагали переименовать переулок Бульварный в переулок Пехотного училища. Однако это предложение не было поддержано.