Wojsko potrzebuje transportu i to często transportu ciężkich elementów, zatem kolej od zawsze była związana z wojskiem. Jednak również sami kolejarze byli też poniekąd formacją zmilitaryzowaną. Przechodzili oni obowiązkowe przeszkolenie wojskowe i zrzeszali się w paramilitarnej organizacji – Kolejowym Przysposobieniu Wojskowym. Konsekwencją tego było wcielenie części kolejarzy do regularnej armii przed wybuchem II Wojny Światowej.
Przedwojenni kolejarze, mimo prowadzonych szkoleń i wspomnianej organizacji KPW nie posiadali raczej własnej broni. Wyjątkiem była Straż Ochrony Kolei, która była wyposażona w popularne karabiny Mauser 1888.
Strażnicy w Wolnym mieście Gdańsk używali tylko rewolwerów Nagant i nie posiadali broni długiej. Po mobilizacji w 1939 roku, zmilitaryzowani kolejarze dysponowali ograniczoną liczbą karabinów Berthier oraz Lebel i niewielkimi zapasami amunicji.
Historię uzbrojonych kolejarzy można poznać dzięki grupom rekonstrukcyjnym takim jak ta wchodząca w skład Kolei Drezynowej z Łapina.
Po wojnie jak również obecnie militarne elementy na kolei ograniczają się do stosowania, i to coraz rzadziej, mundurów, a uzbrojenie dotyczy tylko Służby Ochrony Kolei. Związek z armią widać od czasu do czasu w postaci transportów sprzętu wojskowego, czyli tzw. eszelonów.
Uzbrojenie współczesnych pracowników SOK niewiele różni się od innych służb. Do dyspozycji mają pistolety Walther P-99 oraz pistolety maszynowe PM-98 Glauberyt. Czasami można spotkać też takie zabytki jak pistolet P-64 Czak. Zatem wyposażenie podobne jak np. funkcjonariuszy Policji i innych SUFO.