因村民委员会驻巨陵。故名。
村南有春秋时的楚王陵,因形势很大而得名。
春秋时属大陵邑;汉为巨陵亭;明属西张潘保;清属豢龙保;1921年属北区为巨陵店街;1934年属第五区巨陵店联保;1941年属巨陵乡第一保;1949年属石桥区;1958年属石桥公社;1961年属巨陵店区;1965年属巨陵公社,为巨陵大队;1984年属巨陵乡,改为巨陵村委会。1998年5月属巨陵镇。