Костный мозг у человека появляется впервые на 2-м месяце внутриутробного периода в ключицеэмбриона, затем на 3-4 -м месяце он образуется в развивающихся плоских костях, а также в трубчатых костях конечностей — лопатках, тазовых костях, затылочной кости, ребрах, грудине, костях основания черепа и позвонках, а в начале 4-го месяца развивается также в трубчатых костях конечностей. До 11-й недели это остеобластический костный мозг, который выполняет остеогенную функцию. В данный период костный мозг накапливает стволовые клетки, а клетки стромы с остеогенными потенциями создают микросреду, необходимую для дифференцировки стволовых кроветворных клеток. У 12—14-недельного эмбриона человека происходят развитие и дифференцировка вокруг кровеносных сосудов гемопоэтических клеток. У 20—28-недельного плода человека в связи с интенсивным разрастанием костного мозга отмечается усиленная резорбция костных перекладин остеокластами, в результате чего образуется костномозговой канал, а красный костный мозг получает возможность расти в направлении эпифизов. К этому времени костный мозг начинает функционировать как основной кроветворный орган, причем большая часть образующихся в нем клеток относится к эритроидному ряду гемопоэза.
У зародыша 36 нед развития в костном мозге диафиза трубчатых костей обнаруживаются жировые клетки. Одновременно появляются очаги кроветворения в эпифизах.