La konstruado de la Granda Muro komenciĝis en la 5-a jarcento a.K(antaŭ Kristo 公元前), en la periodo de Militantaj Regnoj, kiam multaj relative grandaj urboj jam konstruiĝis sur la Centra-Ĉina Ebenaĵo. Tiujn urbojn ofte prirabis la nomadaj triboj, kiuj loĝis norde de la montaroj Yanshan kaj Yinshan. Estante elstaraj pafarkistoj kaj rajdistoj, ili frapis kaj forkuris kiel vento. La linioj de la rezistantaj pidsoldatoj rapide frakasiĝis. Por forbari tiajn invadojn, la dukregnoj Yan, Zhao, Wei kaj Qin konstruis muregojn laŭlonge de la monteĝoj. En la 3-a jarcento a.K., kiam Qin Shi Huang sukcese venkis ĉiujn aliajn ses dukrejnojn kaj fariĝis la unua imperiestro de unuigita Ĉinio, li ordonis sian generalon Meng Tian kunligi la muregojn kaj ilin etendi. Tricent mil soldatoj kaj kamparanoj faris la taskon, tiel ke finfine formiĝis kontinua murego. Oni entreprenis plifirmigojn kaj renovigojn en la pstaj dinastioj. En Ming-dinastio, de la 14-a ĝis la 17-a jarcento, la Granda Muro dek ok foje ricevis grand-skalajn riparojn.
Laŭlonge de la Muro troviĝas 14 grandaj strategiaj pasejoj---la plej gravaj ĉe la finoj: Shanhaiguan kaj Jiayuguan.