3 ноября 1935 года на страницах газеты «Красный спорт» появилось сообщение, что «на железнодорожном транспорте создается единое Добровольное спортивное общество железнодорожников „Локомотив“, целью которого является повседневная работа по оздоровлению железнодорожников и их семей».
5 декабря 1935 года Постановлением ЦК союзов железных дорог и наркома путей сообщения был утвержден Устав нового спортивного общества и днём открытия Добровольного спортивного общества железнодорожников «Локомотив» решено сделать 12 января 1936 года. Первым его председателем стал Виктор Александрович Рябоконь.
Но это не значит, что до этого труженики железной дороги не занимались спортом. В разных городах на станциях, в паровозных и в вагонных депо создавались спортивные кружки любителей штанги и лыжных гонок, организовывались футбольные и волейбольные команды, принимавшие участие в различных соревнованиях. Это была естественная потребность наиболее активной части работников. Основной лозунг железнодорожников — членов добровольного спортивного общества «Локомотив»: «Путь к победам в спорте и достижениям в жизни!».
Создание спортивного общества было ознаменовано рядом высоких спортивных достижений — многие его спортсмены становились чемпионами и рекордсменами СССР в различных видах спорта уже в первые годы работы общества. Конькобежец К. Кудрявцев, а несколько позднее его одноклубник и товарищ по команде А. Капчинский установили рекорды СССР. Чемпионами страны стали борцы X. Дзеконский, К. Раков, А. Столяров, И. Чередниченко.
Незабываемым событием 1936 года стала победа «Локомотива» в первом розыгрыше Кубка СССР по футболу. В том же году звание заслуженного мастера спорта получили начальник гимнастической школы В. Иванов и инструктор школы борьбы А. Катулин, которые стали первыми из железнодорожников, удостоенных этого высокого звания.
Во время Великой Отечественной войны десятки тысяч спортсменов и физкультурников спортивного общества «Локомотив» влились в ряды Красной Армии, в дивизии народного ополчения, истребительные батальоны или работали в тылу на благо фронта. На всех железных дорогах велась подготовка общественных инструкторов по рукопашному бою, лыжам, метанию гранаты, преодолению полосы препятствий. В военные годы спортивное общество железнодорожников дважды завоевывало Красное Знамя ВЦСПС за массовую подготовку бойцов.
За ратные подвиги 73 воспитанника «Локомотива» удостоены звания Героя Советского Союза, 54 стали полными кавалерами ордена Славы.
В июне 1946 года ДСО Локомотив стало Всесоюзным добровольным спортивным обществом «Локомотив».
В последующие годы многие воспитанники общества не раз становились олимпийскими и паралимпийскими чемпионами и призерами. За все время выступлений на Олимпийских играх спортсмены-железнодорожники завоевали 82 медали различного достоинства: 42 золотых, 28 серебряных и 12 бронзовых.
Двукратными олимпийскими чемпионами стали Сергей Петренко (гребля на каноэ) и велосипедист Вячеслав Екимов.
Спортсмены «Локомотива» добиваются успехов и на Параолимпийских играх. Так, в Сиднее Тамара Подпальная — фармацевт клинической больницы станции Барнаул — завоевала золотую медаль по пауэрлифтингу, а Любовь Васильева — кассир Волгоградского отделения Приволжской железной дороги — завоевала золото в беге на 400 метров и серебро в беге на 200.
Эмблема ДСО «Локомотив» — литера «Л» и выезжающий из нее локомотив — сохранялась много десятков лет и используется поныне и самим обществом «Локомотив» и одноименными футбольными, хоккейными и другими клубами. Но детали прорисовки эмблемы менялись многократно и часто. Сначала локомотив изображался движущимся на зрителя внутри треугольника. Позже установилось изображение локомотива «в профиль».
Нынешнее Российское физкультурно-спортивное общество (РФСО) «Локомотив» включает спортивные клубы железнодорожных узлов, отделений, учебных заведений, транспортных строителей, метрополитен. «Локомотив» занимается повседневной работой по оздоровлению и пропаганде физической культуры и спорта железнодорожников, транспортных строителей и членов их семей, учащихся железнодорожных школ, средних и высших заведений.
Общество «Локомотив» является членом Конфедерации спортивных организаций России, членом Ассоциации спортивных клубов «Локомотив», членом Национальной Молодежной Лиги России, Международной конфедерации спортивных организаций, Международного спортивного союза железнодорожников — единственного в своем роде международного отраслевого спортивного объединения.
Спортсмены клуба неизменные победители чемпионатов в большинстве видов спорта, а общекомандный Большой Кубок спортсмены «Локомотива» завоевывали со времени вступления в МССЖ более 20 раз. Начиная с 2012 года, было решено отказаться от услуг профессиональных спортсменов и комплектовать сборные команды из числа участников всероссийских соревнований железнодорожников.
Порядка 3000 спортсменов-железнодорожников участвуют в соревнованиях под эгидой «Локомотива». Каждый год проводятся в среднем 15 мероприятий всероссийского уровня. На дорожном уровне — 200 мероприятий и 18000 человек. Есть еще различные международные соревнования, в которых участвуют сборные команды, сформированные на базе призеров всероссийских соревнований.
В последние два десятилетия общество претерпело целый ряд структурных изменений в связи с объединением профсоюзных Добровольных спортивных обществ (ДСО) в 1987 году, распадом СССР, новым законодательством и условиями работы всей отрасли.