Сразу после сооружения железной дороги Одесса — Балта возникли споры о том, в каком направлении продолжать эту линию. Одни предлагали на Киев, другие — на Харьков.
Середина XIX века принесла с собой значительное развитие южных районов России. Важность и значение Донецкого бассейна, высокие темпы роста сельского хозяйства в Украине, развивающиеся индустриальные районы восточной ее части показали, что для дальнейшего подъема экономики края необходимо решить вопрос о перевозках грузов, так как сухопутные дороги уже не справлялись с этой задачей.
Губернский город Харьков находился в 1374 верстах от Санкт-Петербурга и в 697 от Москвы. Проживало в нем постоянно более пятидесяти тысяч жителей. Сам по себе Харьков как будто не располагал преимуществами, которые должны были бы сделать его одним из транспортных центров России. Он не стоял на судоходной реке, не обладал выгодами местности, богатой полезными ископаемыми и способствующими развитию той или иной отрасли промышленности. Но этот город занимал одно из первых мест в России по числу ярмарок и стал своеобразным гостиным двором, складом товаров, перевалочным пунктом между севером и югом страны.
В Харькове проводилось четыре ярмарки в год. Первое место по праву принадлежало Крещенской, которая устраивалась с 6 января по 1 февраля и по обороту уступала в стране лишь Нижегородской и Ирбитской. Хороший зимний путь давал возможность доставлять большое количество товаров с севера. Продавалось их на ярмарке на 20–30 миллионов рублей серебром. При этом многие купцы шли на это, даже если подвоз обходился очень дорого. Если товар не удавалось продать в Харькове, он, как правило, следовал в другие украинские города и в конце концов находил покупателей.
Троицкая ярмарка устраивалась с 1 июня на две недели. Торговали исключительно шерстью. Сбывалось на ней до 150 тысяч пудов.
С 12 августа до 1 сентября проводилась Успенская ярмарка. Ее можно назвать продовольственной. По срокам ярмарка приурочивалась к активному движению на юг чумаков, которые следовали в Крым за рыбой и солью.
А спустя несколько недель шла Покровская ярмарка, где продавался оставшийся товар и сезонный урожай овощей, фруктов. Активно сбывались и другие съестные продукты.
Всего, по данным того времени, на харьковских ярмарках продавалось около одной пятой всей российской шерсти, десятая часть меда и воска, значительная доля рыбы и других продуктов питания, а также железо, медь и изделия из них.
В силу этого, а также из-за расположения города на перепутье между центром и югом России, к Харькову, как к будущему транспортному центру, были обращены взоры правительственных чиновников, изучающих перспективы железнодорожного строительства.
Другая важная причина, повлиявшая на выбор трассы будущей железной дороги — расположение города на оси Донецкого кряжа. По его хребту, который разделял воды, текущие с одной стороны в Азовское море и Днепр, а с другой — в Северский Донец, по пути, известному в древние времена как Муравский шлях, было удобнее всего тянуть железнодорожную колею. Это было удобно и в отношении снабжения дороги топливом — каменным углем, в частности антрацитом, пласты которого к тому времени уже были обнаружены. Тогда Донецкий кряж снабжал бы в изобилии и ведущую к Азовскому морю магистраль, и Одесскую, на которой первоначально использовался уголь, поступающий из Англии.
Экономическое обоснование строительства железной дороги Москва — Харьков — Ростов впервые было дано в проекте Н. Муравьева еще в 1838 году.
Спустя год в журнале «Сын отечества» был опубликован проект О. Сафонова, который считал необходимым строительство железной дороги Курск — Харьков — Кременчуг и Москва — Одесса для вывоза хлеба из Курской, Харьковской и Полтавской губерний.
Неоднократно вопрос о сооружении железной дороги, связывающей столицу и центр страны с Черным морем, ставился перед царским правительством, поддерживался, но не решался.
В 1852 году черниговский, полтавский и харьковский губернаторы направили Главноуправляющему путями сообщения и публичными зданиями предложение о постройке Южной дороги от Харькова до Феодосии. После доклада об этом Николаю I появилась резолюция императора: «Будет прекрасное дело. Безотлагательно приступить к осуществлению». С такой резолюцией представление обсуждалось в Комитете путей сообщения в присутствии наследника престола и также получило одобрение. Однако строительство дороги так и не началось из-за отсутствия средств.
Казна выделяла на развитие прогрессивного вида транспорта немалые деньги. И все же их недоставало. Прежде всего из-за распыления сил на многих направлениях. Поэтому были созданы все условия для образования акционерных обществ, которые могли строить и эксплуатировать новые железные дороги. Общества стали появляться одно за другим. И почти везде большую роль играл иностранный капитал, использующий льготы, предоставленные государством, для извлечения максимальной прибыли.
Вскоре с предложением построить дорогу от Москвы на Харьков и Одессу и от Харькова на Феодосию выступил американец А. Шифнер. Его условия признали невыгодными.
В 1854 году в спешном порядке организовали особую экспедицию для изыскания возможностей строительства новых железных дорог по направлениям Москва — Харьков — Феодосия (с веткой на Севастополь и линиями на Донбасс и Ростов-на-Дону) и Харьков — Одесса под руководством строителя первой отечественной магистрали П. Мельникова. В экспедицию входило семь изыскательских партий во главе с инженерами, отличившимися на сооружении магистрали Санкт-Петербург — Москва, Д. Журавским, В. Сеничевым, В. Папаевым и другими. За два с половиной года экспедиция протрассировала около 4 тысяч верст, и в начале 1857 года П. Мельников представил предварительный проект строительства железных дорог к югу от Москвы.
И уже весной образовалась компания учредителей при участии торгового дома «Томсон Бенар и Ко» и многих высокопоставленных лиц (всего 228), которая предложила создать акционерное общество для строительства железной дороги от Одессы через Балту, Брацлав, Киев, Нежин и Кролевец до встречи с предложенными к сооружению Феодосийской и Либавской дорогами. Но новое общество не получило концессии. В то время предполагалось, что с учреждением Главного общества российских железных дорог (26 января 1857 года) концессия на строительство южной линии от Москвы до Феодосии будет выдана ему. Однако общество оказалось несостоятельным из-за других строек и в ноябре 1861 года было освобождено от сооружения этой магистрали.
В 1858 году по поручению группы лондонских банкиров англичанин Топпе внес предложение о постройке дороги между Москвой и Феодосией. Правительство, придавая большое значение этой дороге, пошло на чрезвычайно большие льготы иностранной компании: предоставляло ей право эксплуатировать дорогу в течение 99 лет, определило стоимость версты в 97 251 рубль, давало гарантию дивидендов 5 процентов. Кроме того, компания получала право привлечь для работы войска, беспошлинно ввозить из-за границы материалы, подвижной состав и другие льготы. Но, несмотря на все условия, учредители компании не смогли организовать дело, и 12 января 1861 года концессия была объявлена несостоявшейся.
Наступил трудный период для железнодорожного строительства. Новые общества не образовывались. А между тем существовала острая необходимость в целой сети железных дорог. В проекте 1862 года южная линия Москва — Курск — Харьков — Крым (протяженностью в 1440 верст) занимала первое место в перечне «самонужнейших дорог».
В 1863 году П. Мельников назначается Главноуправляющим путями сообщения и публичными зданиями. Он продолжает проводить в жизнь идею сооружения Южной дороги за счет казны, считая, что это обойдется намного дешевле. С его точки зрения, это дало бы возможность еще и рассеять господствовавшее за границей предубеждение относительно невыгодности помещения иностранных капиталов в строительство железных дорог.
Тем временем в борьбу за строительство Южной дороги активно включилась и харьковская общественность. В конце концов этот вопрос был вновь вынесен на рассмотрение царя.
3 апреля 1865 года представитель общественности Харькова Н. Кукольников обратился с письмом к харьковскому губернатору. А 4 мая того же года губернатор А. Сиверс направляет письмо харьковскому городскому голове, в котором говорится: «Препровождается письмо Н. Кукольникова о предположительном проведении железной дороги от Орла через Харьков до Таганрога и Ростова и о пожертвовании городской земли как для устройства станции с принадлежащими постами, так и для проведения самой дороги. Поручаю Вам, собрав харьковское городское общество, предложить на обсуждение настоящее обстоятельство и составленный об этом приговор предоставить на мое рассмотрение. При этом надеюсь, что городское общество оценит всю выгодность настоящего долга и примет его с сочувствием».
В ответ на письмо состоялось собрание городского общества и 19 мая 1865 года А. Сиверсу и городской думе было направлено решение, в котором говорилось, что и со стороны общества не встретится ни малейшего препятствия на передачу безвозмездно под железную дорогу того количества земли, которое будет признано нужным.
Однако до принятия окончательного решения было еще далеко. Переписка по инстанциям продолжалась.
Из Министерства внутренних дел 12 февраля 1866 года пришло уведомление графу А. Сиверсу, что его прошение о необходимости строительства дороги от Москвы до Харькова передано на Высочайшее рассмотрение.
21 октября 1866 года А. Сиверс сообщает Харьковской городской думе, что уже определено место для прокладки железной дороги: Архиерейская левада справа от Екатерининской улицы под Холодной Горой. Граф предлагает обратиться к городскому обществу с просьбой о том, не примет ли общество участия в погашении предстоящих больших издержек.
С определением места строительства выяснилось, что большое количество домовладений попадает под снос. В конце 1866 года городской думой была создана комиссия по оценке стоимости определенных к сносу домовладений.
Председатель Харьковской губернской земской управы сообщает 18 марта 1867 года новому губернатору П. Дурново, что Харьковское земское собрание в заседании поручило губернской управе составить проект концессии на дорогу для представления его правительству.
В конце марта 1867 года губернская управа направляет в Санкт-Петербург депутацию в составе А. Матушинского и Г. Данилевского, членов Харьковской губернской управы, и Д. Замятина, предводителя дворянства Змиевского уезда. Депутация подготовила проект концессии на строительство дороги, в котором были отражены условия сбора капитала, состав правления, права земства.
Но ввиду большого накопления на иностранных биржах русских гарантированных бумаг было принято Высочайшее повеление о приостановлении концессий, пока не будут погашены облигации уже строящихся дорог.
Вопрос о строительстве Южной железной дороги остался открытым. И только в конце февраля 1868 года по повелению царя вновь выносится на рассмотрение проект строительства линии от Курска до Харькова.