因村委会驻小河刘村而得名。
清初,刘姓从今辛安镇水牛刘迁此建村,因村边有小河,故名小河刘村。据清道光《舞阳县志》载:“北伍保辖有小河刘”,无更名史。
明、清属北伍保;1931年属第一区齐礼乡;1943年属狄青乡;1949年属第一区;1958年属城关人民公社,属东梁大队;1984年属城关乡,为小河刘村民委员会;1988年城关乡更名为文峰乡,仍属之。