Сергей Иванович Мосин родился 2 (14) апреля 1849 года в селе Рамонь, Воронежской губернии.
* Часто приводимая дата рождения Мосина 23 апреля (5 мая) 1849 г. неверна; согласно записи в метрической книге церкви села Рамонь он родился 2 (14) апреля 1849 года (Воронежский государственный областной архив, фонд Воронежского дворянского собрания, д. № 119, л. 6).
Отец Мосина — Иван Игнатьевич начал свой нелегкий жизненный путь, вступив на военную службу из воспитанников Московского военно-сиротского отделения. В мае 1827 года И.И. Мосин был уже унтер-офицером лейб-гвардии гусарского полка, позднее отличился в войне против турок и имел боевые награды.
Хотя И.И. Мосин «к повышению чином аттестовался достойным», он только после десятилетней солдатской службы, в 1836 году, получил чин прапорщика и был переведен в 4-й Черноморский линейный батальон, а в 1837 году его произвели в подпоручики. Неизвестно, что побудило И.И. Мосина искать увольнения от службы, но в апреле 1838 года он получил отставку «по домашним обстоятельствам». За И.И. Мосиным — тридцатитрёхлетним подпоручиком в отставке, все образование которого сводилось к тому, что он «российскую грамоту читать и писать умеет и арифметику знает», по краткому замечанию указа об отставке, «имения никакого не состояло». Он после долгих мытарств получил место управляющего имениями и предприятиями крупной помещицы А.И. Шеле в селе Рамонь, Воронежской губернии.
Здесь после долгой службы И.И. Мосин обзавелся семьей. Он вступил в брак с Феоктистой Васильевной (фамилия неизвестна), одной из местных крестьянских девушек. 2 апреля 1849 года у них родился сын Сергей.
Жизнь с ранних лет не баловала мальчика. Едва достигнув четырёх лет, он лишился матери и остался на попечении отца и помещицы Шеле, которая проявила большое участие к ребёнку.
При содействии Шеле Сергей Мосин получил первоначальное образование. Дальнейшая судьба мальчика заботила отца. При отсутствии собственных средств он мог дать ему законченное образование, лишь определив в одно из казённых учебных заведений.
Некоторые возможности к тому имелись. В Воронеже был кадетский корпус, предназначавшийся для сыновей воронежского дворянства. И.И. Мосин не принадлежал к «благородному» сословию и, чтобы доставить сыну возможность получить образование, сделал попытку вступить в ряды местного дворянства.
В начале 1860 года отставной подпоручик Иван Мосин подал прошение в дворянское депутатское собрание, прося внести его с сыном Сергеем в родословную дворянскую книгу. 5 февраля 1860 года это ходатайство было удовлетворено не без содействия Шеле, покровительствовавшей мальчику.
Теперь 11-летний Сергей Мосин мог рассчитывать на то, что перед ним откроются двери кадетского корпуса. Мальчик переступил школьный порог в тот год, когда «Царское правительство, ослабленное военным поражением во время Крымской кампании и запуганное крестьянскими „бунтами“ против помещиков, оказалось вынужденным отменить в 1861 году крепостное право» (История ВКП(б). Краткий курс, стр. 5).
К 1 августа 1861 года С. Мосин явился для сдачи вступительных экзаменов в Тамбов, где тогда помещались начальные классы кадетского корпуса.
16 августа 1861 года Сергей Мосин был принят в первый общий класс и зачислен в «неранжированную роту». Так началась для него новая, пока еще непривычная жизнь вдали от отца и приволья рамоньской усадьбы.
Но Мосину пришлось недолго пробыть в Тамбове. В июне 1862 года он перешёл во 2-й общий класс и был переведен в Воронежский кадетский корпус.
Учение давалось Мосину легко. Уже в ноябре 1861 года, после двух месяцев занятий, ему за хорошие успехи были нашиты погоны. По аттестации корпусного начальства, он был «способностей хороших». В мае 1864 года «за весьма хорошие успехи в науках и поведении» Мосин был награждён похвальным листом и подарком.
В «Замечаниях о характере, наклонностях и способностях» Мосина ротный офицер отмечал, что он был способным, скромным, исполнительным, добросердечным, несколько вспыльчивым, однако весьма дисциплинированным мальчиком. Эти черты характера, отчётливо определившиеся в юношеские годы, остались затем свойственны Мосину во всей его последующей жизни.
В 1865 году кадетский корпус (в связи с реформами в военном ведомстве) был преобразован в военную гимназию с широкой программой, близкой к курсу реальных гимназий того времени, с преобладанием точных и естественных наук. Качество преподавания значительно повысилось. Несомненно, это способствовало тому, что Мосин получил достаточно широкие и прочные знания основ наук.
Последние годы пребывания в гимназии были связаны для С. Мосина с некоторыми семейными затруднениями. Отец по каким-то причинам оставил службу у Шеле и переехал в Тульскую губернию. Сергей на некоторое время потерял связь с отцом. Одиночество несколько скрашивалось дружбой с товарищами по гимназии и напряжённой учёбой. В 1867 году Сергей Мосин с отличием окончил Воронежскую военную гимназию. Он получил хорошую подготовку, а, главное, гимназия, по словам С. Мосина, выработала в нем «способность к труду и веру в свои силы», что так пригодилось юноше в дальнейшем. С теплой признательностью вспоминал впоследствии Мосин годы, проведённые в гимназических стенах.
Рано обнаружившиеся прекрасные математические способности и живой интерес к военному делу предопределили его дальнейший жизненный путь.