砀山县的名字来源于芒砀山，历史多与芒砀山相关。古时候天下分九州，砀属豫州之域；西周初期属宋，为砀邑；隋开皇18年改为砀山县。

历史上砀山县的行政区划沿革有关。我们前面提到的下邑县，县治在今砀山县东毛李庄和砀县，县治在今永城市芒山镇，史料中提到的“砀县”原本在砀山（今芒砀山）西麓，因砀山得名。