Utviklingen av megaloblastisk anemi skyldes først og fremst en mangel på vitamin B12 eller folat, som er essensielle næringsstoffer involvert i syntesen av DNA og modningen av røde blodceller. Når det er mangel på disse næringsstoffene, svekkes produksjonen av DNA, noe som fører til dannelse av megaloblaster.
I tilfelle av vitamin B12-mangel, spesielt, påvirker mangelen på vitamin B12 syntesen av et stoff som kalles myelin, som er et fettstoff som omgir og beskytter nerveceller. Uten tilstrekkelig myelin blir nervecellene i benmargen skadet, noe som resulterer i produksjon av megaloblaster og utvikling av megaloblastisk anemi.
Derfor refererer begrepet "megaloblastisk anemi" til tilstedeværelsen av megaloblaster i benmargen og er assosiert med vitamin B12 eller folatmangel.