Целенаправленное использование материалов для возведения построек различного функционального назначения известно человечеству с древнейших времен. На начальных этапах цивилизации применяли такие материалы, которые не требовали значительных усилий и энергетических затрат для придания им заданной формы: древесину и природные камни, необожженную глину.
Исходным моментом для становления науки о материалах явилось получение керамики путем сознательного изменения структуры глины при ее нагревании и обжиге. Со временем чрезмерную пористость изделий научились уменьшать глазурованием.
С течением времени человечество познало самородные, а затем и рудные металлы, крепость и жесткость которых были известны уже в VIII тыс. до н. э. Холоднокованая самородная медь была вытеснена медью, выплавленной из руд, которые встречались в природе чаще и в больших количествах. В дальнейшем к меди стали добавлять другие металлы, и таким образом в III тыс. до н. э. люди научились изготовлять и использовать бронзу как сплав меди с оловом, а также обрабатывать благородные металлы, уже широко известные к тому времени.
Получение новых керамических и металлических материалов и изделий было обусловлено определенным прогрессом производства. Возрастала необходимость в более глубоком понимании свойств материалов, особенно прочности, ковкости и других качественных характеристик, а также способов их возможного изменения.
Для первого этапа становления и развития строительного материаловедения характерно сравнительно ограниченное количество разновидностей материалов и опытных данных по их качественным характеристикам. Его можно характеризовать как становление науки о материалах вообще, о составе веществ, внутренних взаимодействиях мельчайших частиц и их свойствах. Второй этап в развитии строительных материалов начался с изобретения во второй половине XIX в. гидравлического вяжущего - портландцемента - и закончился в первой половине XX в. Появилась возможность изготовлять водостойкие бетоны и строительные растворы, что существенно расширило технические возможности строительства. Важнейшим показателем этого этапа явилось массовое производство различных строительных материалов и изделий, непосредственно связанное с интенсификацией строительства промышленных и жилых зданий, общим прогрессом промышленных отраслей, электрификацией и т. д. В номенклатуре материалов, кроме применявшихся на первом этапе камня, меди, бронзы, железа и стали, керамики, стекла и отдельных вяжущих, начался массовый выпуск портландцемента, появились новые цементы; сформировалась специальная наука о бетонах - бетоноведение. Были предложены новые разновидности искусственных заполнителей для легких бетонов -керамические, шлаковые и др.
В конце XIX в. формируется технология изготовления железобетона и получает развитие наука о железобетоне. В это же время в строительстве внедряется предварительно напряженный железобетон.
Третий этап охватывает период со второй половины XX в. до настоящего времени. Он характеризуется, во-первых, процессом дальнейшего расширения производства строительных материалов и углублением знаний соответствующих им специализированных наук и, во-вторых, интеграцией научных знаний о строительных материалах и изделиях в их сложной совокупности.