他先是跟着大将军史万岁，击败了昆州羌族叛乱，因功授仪同。后又跟着楚国公杨素平定了汉王杨谅的叛乱，因功加开府。最后在大业六年，转让了齐郡郡丞。
就在他到任的第二年，大隋第一个起来造反的农民出现了。他就是自称知世郎的山东人王薄。王簿一带着造反，就拉扯起了上万人的队伍。不过他可惜，他碰到了张须陀。在隋末，有三个将领十分有名，他们就是以剿匪而出名的隋末三大起义军刽子手，张须陀、杨义臣、杨善会。
大业六年到大业九年，短短的三年，张须陀先后击败了王簿、孙宣雅、石秪阇、郝孝德、裴长才、石子河、郭方预、秦君弘等各路起义军。每一次起义军都是数万人，多的甚至有七八万人，可每一次都被张须陀给打的灰飞烟灭。
最传奇的一次，裴长才、石子河等率2万叛军攻至历城，纵兵大掠。张须陀当时没来得及召集士兵，遂亲率五骑与叛军作战。叛军为其所吸引，遂引兵围攻。张须陀身陷重围，身上多处受伤，勇气弥厉。时城中援兵至，叛军稍退。张须陀督军再战，大败叛军，裴长才败逃。
到了最后，摄于张须陀的淫威和疯狂镇压，齐鲁大地的造反运动这个时候已经进入低潮，而他干脆直接剿匪剿到了河北去了。
山东祝阿！
张须陀已经在这里和对面的敌军对峙了十多天了，宇文述在大殿之中选择东进增援陈克复的兵马时，曾说皆知须陀正在河北涿郡做战，说用不了几天，张须陀就能大败叛军，挥师东进。
可是事实却是，张须陀接到圣旨的时候，已经是在河南了。而又过了十来天后，甚至他们已经到了河南和山东交界的祝阿。对方是河北人卢明月，自号无上王，统兵马十万。张须陀统兵两万，双方相距6—7里设营栅相持，已经对峙了10余日。
隋军中军张须陀的大帐之中，众将齐聚，一旁还端坐着两位文官袍服的男子。一位是通事舍人黄英，他负责回辽东向陈破军宣旨，一位是纳言、辽东抚慰大使苏威。
帐中的牛油蜡烛燃起，将整个大帐照的灯火通明。
“张大人，不知道何日才能击破叛军，挥师东进？如今辽东局势危急，陛下可是令我等早日赶赴辽东城，如今已经耽误了半个月了，张大人，还要让我等等多久？只怕我们等的起，辽东的陈大帅等不起啊！”
满头白发的苏威这个时候真是有些心力交粹了，原本以为增援辽东的事情不会有什么意思，哪曾想到，这时间已经过了半个月了。他们不但没有到达辽东，反而已经距辽东越来越远了。
张须陀帐下一员黄脸年青将军道，“大人，我军粮草已经不多，再对峙下去恐怕对我军不利。”
端坐于上首的年过五旬，满脸大胡子的张须陀沉着道，“诸位放心，破贼就在明日，明日一早，我军拨营退兵。贼见兵却，必轻来追我。其众既出，营内即虚，若以千人袭营，可有大利。此诚危险，谁能去者。”
以小部兵马袭取敌军大营，这样的任务太过于危险，好半天帐中也没有一个人应声。
那员黄脸年青将领和旁边一位身材不过五尺的小将对视一眼，齐齐而出道，“秦琼、罗士信愿往！”
张须陀一听，看着这两位年青的小将抚须大笑，“好，果然是英雄出少年。将令，步兵队正秦琼、罗士信，本将令你二人各统一千步兵，明日预先埋伏于芦苇丛中，待敌军出营追击我部后。你等领兵攻入敌军大营，火烧敌营！”
通事舍人黄英和纳言苏威，一看张须陀居然把这么重要的一个任务交给了两上年纪轻轻的小队正，不由得有些脸色难看起来。不过他虽然是宰相，可是在军营之中，却也不好出言干涉，只好无奈的叹息了一声。
天刚拂晓，整个大地一片寂静，大地上铺满了一层银霜。
就在这寂静的拂晓，突然大片大片的脚步声开始打破了这份寂静。一队队的步兵挟枪带刀，踏着整齐的步伐行走在这荒野的大地之上。一阵马蹄声传来，一位满脸胡子的将领，带着一队队的骑兵策马而过，直到冲上一个小山坡才停了下来。他眉头紧皱，双目远眺，好似在等待着什么。
没有多久，后面终于传来一阵嘈乱的声音，那马上的大胡子将领紧皱的眉头却一下子舒展了开来。卢明月果然没有放弃这个击败他的机会，带着兵马倾巢出营追击来了。
马上的将领一挥手，整齐行走的步骑开始慢慢加速奔跑起来，好似在仓惶逃窜。
那兵马一跑，后面追击的卢明月却再没有了半点顾虑，率着大军直冲而去。
只是他没有发现的是，当他大军滚滚而过之时，在他们刚离过的路两旁的芦苇丛中，两位年轻的小将带着两千人马直奔他们的老巢而去。
两千步兵一路拼命狂奔，没一会就已经到了卢明月的大营之外。等到了才发现，卢明月虽然带着大军出营追击，却还派了数千人留守。此时大营紧闭，那高高的栅栏，如同一座城墙一样，将他们牢牢的挡在了营门之外。
秦叔宝和罗士信两人相对一视，都有些傻眼。来之前，可没有想到会是这样的结果，他们不过是两千步兵，为了隐藏方便，除了手中的横刀之外，已经没有了其它的武器。眼下面对这栅栏，可要如