Будучи секретарем парткома в городе Белорецке, он, услышав о строительстве магнитогорского комбината, бросил все и уехал на стройку. Он знал, что будет нелегко, знал, что придется начать работу землекопом с лопатой в руках, знал и сознательно выбрал нелегкий путь строителя комбината. Затем, когда заработал мартеновский цех, он попросился в сталевары. Окончив краткосрочные курсы, он стал помощником сталевара, где помог внедрить новый график для операций по загрузке металла и выемки из печи. Организовав соревнования по выплавке стали, он опередил своего учителя, а затем включился в стахановское движение. Соревновался со сталеварами из других городов, внедряя скоростные плавки. Грязнов был душой коллектива, отзывчивым, сердечным. Видя, как он работает, его выдвинули на пост секретаря райкома, но он не хотел бросать свою мартеновскую печь, ведь здесь осуществилась его мечта – варить магнитогорскую сталь. Вскоре началась война, и Грязнов ушел на фронт. Он воевал в морской пехоте, был командиром батальона морской пехоты. Многократно был ранен, лечился и возвращался на фронт. Во время высадки десанта на побережье Эстонии, в районе деревни Пикасилла погиб смертью храбрых. На эстонской земле, недалеко от Балтийского моря установлен скромный памятник в честь погибших советских воинов, с высеченными на гранитной плите именами, среди них есть имя Алексея Грязнова.  В Магнитогорске имя Алексея Грязнова навечно записано в Книге памяти города, его именем названа улица.

2 сентября 1976 году  был установлен памятник великому сталевару, воину и зачинателю стахановскому движению на ММК Алексею Николаевичу Грязнову. 

Памятник изготовлен по заказу ММК, бюст Грязнова изготовлен из белого мрамора группой грузинских скульпторов. Автор постамента - архитектор В.С. Постамент имеет форму трехгранной пирамиды. Его высота - 3 метра. Изготовлен из серого гранита. На постаменте можно прочитать слова: «Никто не забыт, ничто не забыто». Территория вокруг памятника выложена тротуарной плиткой.