以姓氏和兄弟辈分大小命名。
原居村东一里的大段村,名段庄。段姓兄弟三人在此有地,并建一砖窑,分家后一留本村,一迁巨陵店,一迁此建村名小段。
清属黄岗保;1921年属北区大段村;1934年属第五区梁李联保;1941年属巨陵乡第十九保;1949年属石桥区;1958年属巨陵公社;1961年属巨陵店区;1965年属巨陵公社杨林大队;1984年属巨陵乡杨林村委会。1998年5月属巨陵镇杨林村民委员会。