因村委会驻张楼村而得名。
明代,张姓从山西洪洞县迁此建村,因建有楼房,故名。据清道光《舞阳县志》载:东中伍保辖有张楼。又因南有小张楼,曾名大张楼。后复称今名。
明、清属东中伍保;1931年属第一区东关镇;1943年属中山镇;1949年属第一区;1958年属城关人民公社,为张楼大队;1984年属城关乡,为张楼村民委员会;1999年属舞泉镇至今。