Ryggmargen består av en bunt nervetråder (eller aksoner) omgitt av en beskyttende skjede. Det ytre laget er hvitt, og det dype sentrale laget er grått, formet som en sommerfugl eller en H. Den grå substansen inneholder cellelegemene til de motoriske og sensoriske nevronene, mens den hvite substansen inneholder aksonene til disse nevronene.
