中国最早在公元前5000-3000年的新石器时代的仰韶文化时期就开始使用类似水泥的材料,当时人们用“白灰面”涂抹山洞、地穴的地面和四壁,这种材料由天然姜石磨细而成,是至今被发现的中国古代最早的胶凝材料。在距今5500多年的甘肃大地湾901号房址,也出土了世界上最早的水泥制品,这表明中国先民在那个时期已经开始使用水泥。
近代意义上的水泥是在1756年发明的,而中国则是在1889年首次引入了水泥生产技术,在河北唐山开平煤矿附近创办了用立窑生产的唐山细绵土厂。到了1906年,又在唐山细绵土厂的基础上建立了启新洋灰公司,标志着我国开始有了自己的水泥产业。