以姓氏命名。
明末迁此建村,始名郭家庄,简称郭庄,以后张姓迁入,为当时颇有名气的大村,清初颍河水泛滥成灾,张氏迁徙他乡,村庄人口减少,故名小郭庄。
清属南阳保;1921年属西区阿董村;1934年属第一区翟阁联保;1941年属杜曲镇第七保;1949年属台陈区;1958年属王曲公社;1962年属台陈区;1965年属台陈区公社临涯张大队;1984年属台陈乡临涯张村民委员会;1997年属台陈镇临涯张村民委员会。