山东根据地创建于抗日战争初期，1937年10月，山东地区的抗日游击队投入到抵抗日本侵略者的行动中，逐渐建立了根据地。

1938年5月，山东地区的八路军以及游击支队陆续创建了鲁中、鲁南、胶东等多块抗日根据地，这些根据地连成片，扩大为山东抗日根据地

在抗日根据地当中，沂蒙山根据地是最著名的。并把这里确定为苏鲁豫皖边区省委的所在地。之后的很长一段时期，山东地区的各个根据地的机关都驻扎在这里，这里也诞生了诸如“沂蒙红嫂”等一系列感人至深的抗日故事，沂蒙山根据地也因此被称为华东“小延安”。