История сквера берет начало в 1950-х годах, когда застраивался проспект Металлургов. Тогда это была окраина молодой правобережной части города. При планировке было задумано, что улицу разделит на две части широкий бульвар, который будет выполнять и рекреационную, и экологическую функции. Вскоре проспект Металлургов стал одной из центральных улиц правобережной части, а вместе с этим повысилась и популярность сквера. В советские годы это было пусть и не избалованное развлечениями, но уютное место отдыха. Поскольку сквер расположен на проспекте Металлургов, его стали называть сквером Металлургов.

Новую жизнь сквер получил в 2010 году, когда на его территории был открыт Магнитогорский Арбат. Идея обустроить пешеходную зону на проспекте Металлургов обсуждалась еще с середины 2000-х. Не случайно была выбрана именно эта улица: проспект Металлургов — архитектурная гордость Магнитки. Поначалу речь шла о перекрытии движения автомобилей. Но было решено, что в качестве Магнитогорского Арбата подойдет и территория сквера Металлургов. При подготовке к открытию Арбата сквер пережил серьезную реконструкцию. Сейчас местную достопримечательность называют по-разному: и Арбат, и сквер Металлургов, и сквер на проспекте Металлургов, но чаще всего — парк Металлургов. Кстати, парк с подобным названием есть и левобережной части города, но его популярность давно угасла.