Первый участок железной дороги на Южном Урале был открыт 1 января 1877 года при строительстве Самаро-Златоустовской железной дороги.
Основные участки Самаро-Златоустовской железной дороги построены в 1876–1914 годах, первым из них был открыт участок Оренбург – Кинель. Пробный поезд к Оренбургскому вокзалу со стороны Самары подошёл 22 октября 1876 года. 1 января 1877 года было открыто движение почтово-пассажирских и товарных поездов по линии от станции Батраки (общей с Моршанско-Сызранской железной дорогой) до Оренбурга, где к этому времени были построены локомотивное депо и вокзал.
Открытие Оренбургской железной дороги способствовало развитию товарообмена между Россией и Средней Азией. В 1877 году на Оренбургской дороге курсировали 2 почтово-пассажирских и 2 товаро-пассажирских поезда.
Дальнейшее строительство Самаро-Златоустовской магистрали проходило на участке Кинель – Уфа – Златоуст – Челябинск. Движение до Уфы было открыто 8 сентября 1888 года (была сдана в эксплуатацию Самаро-Уфимская железная дорога). 8 сентября 1890 года к дороге была присоединена линия Уфа – Златоуст. С этого времени дорога стала называться Самаро-Златоустовской.
В 1892 году к дороге присоединили введённый в строй 22 октября участок Златоуст – Челябинск. 25 октября 1892 года на станцию Челябинск прибыл первый товаро-пассажирский поезд из Москвы. 1 января 1893 года к Самаро-Златоустовской железной дороге была присоединена Оренбургская железная дорога. Управление дороги перевели из Самары в Челябинск. Самаро-Златоустовская железная дорога стала главным участком будущей Транссибирской магистрали.
Своё современное наименование Южно-Уральская железная дорога получила 15 апреля 1934 года.