牛存节,字赞贞,青州博昌人也。本名礼,太祖改而字之。少以雄勇自负。唐乾符末,乡人诸葛爽为河阳节度使,存节往从之。爽卒,存节谓同辈曰:“天下汹汹,当择英主事之,以图富贵。”遂归于太祖。初授宣义军小将。属蔡寇至金堤驿,犯酸枣、灵昌,存节日与之斗,凡二十余往,每往必执俘而还,前后斩首二十余级(按册府元龟记载当为二千),获孳畜甚众。太祖击蔡贼于板桥、赤冈、酸枣门、封禅寺、枯河北,存节皆预其行,与诸将于濮州南刘桥、范县大破郓众,自此深为太祖奖遇。
文德元年夏,李罕之以并军围张宗奭于河阳,太祖遣存节率军赴之。属岁歉,饷馈不至,村民有储干椹者,存节以器用、钱帛易之,以给军食。大破贼于浿河,罕之引众北走。又预讨徐、宿有功。及讨河北,存节前锋下黎阳,收临河,至内黄西,以兵千余人当魏人万二千众,大破其阵,僵仆蔽野。太祖深所叹激,谓有神兵之助。大顺元年,改滑州左右厢牢城使。与诸将讨时溥,累破贼军。景福元年秋,改遏后都指挥使。攻濮之役,领军先登,遂拔其垒。二年四月,下徐州,枭时溥,存节力战,其功居多。乾宁二年,授检校工部尚书。三年夏,太祖东讨郓州,存节领军次故乐亭,扼其要路,都指挥使庞师古屯马颊,存节密与都将王言谋入郓垒。十二月,存节遣王言夜伏勇士于州西北,以船逾濠,举梯登陴。既而王言不克入,存节独率伏军负梯破其西瓮城,夺其濠桥,诸军俱进。四年四月,陷其城,寻与葛从周降下兖州,加检校右仆射。