Terminam “smagais dzelzceļš” ir dažādas nozīmes atkarībā no pasaules reģiona. Parasti smago dzelzceļu definē kā starppilsētu vilcienu transporta sistēmu, kas kursē pa īpašiem sliežu ceļiem, kuriem ir atsevišķas priekšas tiesības. Daži amerikāņi šo terminu lieto arī saistībā ar ātro tranzītu, piemēram, paaugstinātām metro sliedēm Ņujorkā un Čikāgā. Šis amerikāņu lietojums ir paredzēts, lai šīs sistēmas atšķirtu no citām sabiedriskā transporta vilcienu sistēmām, kuras var dalīt ceļu ar satiksmi.
Parasti smagos sliežu ceļus no vienas pilsētas uz otru vada viens vilcienu operators, taču šis uzņēmums var atļaut sliežu ceļus izmantot citiem uzņēmumiem. Tādā veidā operatori var izveidot izmantojamu sliežu ceļu tīklu bez nepieciešamības tās izveidot. Tā kā sliežu ceļus dala vairāki operatori, gabarīts ir standartizēts, lai nodrošinātu, ka visi vilcieni tajos ietilps. Arī sliežu ceļu izmantošana ir rūpīgi plānota, lai izvairītos no sadursmēm.
Atšķirībā no pilsētas vieglajiem dzelzceļiem, smagais dzelzceļš papildus pasažieriem nodrošina kravu pārvadājumus. Vilcieni paši var būt smagāki vai vieglāki nekā tie, ko izmanto pilsētas tranzītā, un tie mēdz būt lēnāki. Tie ir paredzēti arī gariem braucieniem, jo pasažieru vilcienos ir vannas istabas, ēdamistabas vagoni un guļamtelpas. Šie vilcieni var kļūt ļoti gari un apgrūtinoši, tāpēc uz smago sliežu ceļa slīpums tiek uzturēts apzināti saudzīgs, lai vilcieniem nebūtu jākāpj stāvos kalnos vai strauji jākāpj lejā. Arī sliežu ceļi parasti ir viegli izliekti, lai vilcieni neapgāztos, kad tie lielā ātrumā pagriežas.
Tā kā smagās sliedes sliežu ceļi kursē pa atsevišķām priekšrocībām, vilcienam reti nākas saskarties ar transportlīdzekļu satiksmi. Izņēmums no šī noteikuma ir vilcienu krustojumos, kur vilcienam var būt jāšķērso publiska maģistrāle, lai sasniegtu galamērķi. Šajā gadījumā vilcienam parasti ir priekšroka, lai gan tas samazina ātrumu, pirms sasniedz pārbrauktuvi, lai nodrošinātu, ka visas tuvumā esošās automašīnas tiek apturētas. Autovadītājiem gaidīšana pie vilciena pārbrauktuves var būt nomākta, ja vilciens ir ļoti garš.
Īpaši Amerikas Savienotajās Valstīs savulaik dominēja smagais dzelzceļš, un tūkstošiem jūdžu garas vilcienu sliedes šķērsoja valsti. Pieaugot kravu pārvadājumiem, smagā dzelzceļa izmantošana samazinājās, lai gan daudzas preces joprojām tiek nosūtītas ar vilcienu. Daži vilcienu entuziasti ar prieku domā par šo laikmetu, un viņi daudz laika un enerģijas velta smago sliežu sistēmu izpētei. Daudzi no šiem vilcienu entuziastiem arī ļoti izbauda braucienus ar vilcienu, dodot priekšroku vilcienam, nevis braukšanai, lidošanai un autobusam, jo tas ļauj viņiem lēnām izbaudīt valsti ceļojuma laikā.