事情到了这种地步，庞勋等人显然已经无路可退。渡过淮河以后，庞勋向众徐州兵宣称：“我辈擅自归来，不过是因为思念妻儿，日夜想与他们相见。听说已有皇帝的密敕到了徐州，一旦我们等回到徐州，将被肢解灭族。大丈夫与其自投罗网，为天下人所笑，还不如大家同心协力，赴汤蹈火干一番大事业。这样不仅摆脱祸殃，还可求得富贵！更何况徐州城内的将士都是我们的父兄子弟，我们在外一声高喊，他们在城内必然响应。”众人听后都欢呼雀跃，拍手称好。
于是，一场本来不该发生的大起义就这样爆发了。
徐州兵只有将士赵武等十二人不想参与起义，企图逃跑，结果被庞勋处斩。庞勋随即派人将赵武等人的首级送给崔彦曾，并再递上申诉状，宣称是被赵武等人骗归。不久，庞勋再次申诉，要求停掉徐州都押牙尹戡的职，然后，将他们这些从桂州回来的将士“别置二营，共为一将”。这说明庞勋起义仍然是想求自保，在他心底深处，仍然希望能平平安安地回到徐州，大家和睦相处。由于当时通讯条件所限，唐朝廷不可能及时了解到情况，所以在这个时候，徐泗观察使崔彦曾的态度就相当重要了，和与战，其实就在他一念之间。
崔彦曾召部下商议，诸将都觉得徐州治下的兵出了这样的事相当丢脸，都哭着喊着要去与庞勋义军决一死战。崔彦曾当然知道他自己这一决定将左右许多人的命运，还是很犹豫，因为他看得出，庞勋等人并没有反叛朝廷的意图。
这时候，徐泗团练判官温廷皓站了出来，慷慨地说了一番话。他先指出了崔彦曾犹豫的原因：“目前讨击桂州戍卒有三大难处：皇帝已经颁下诏书释免戍卒的罪，我们不能擅自讨击，这是第一大难处。这些桂州戍卒的亲人都在徐州城内，而我们率领戍卒的父兄，去讨击他们的子弟，人情难违，这是第二大难处。戍卒犯罪，牵连的枝党多而复杂，追究起来判刑和处死的人必然很多，这是第三大难处。”本来众将都以为温廷皓是要站在庞勋等徐州兵一边了，不料他话锋一转，又列举了如果不讨伐庞勋的五大害处，从而促使崔彦曾下定了决心。
当时徐州城内只有四千三百名士兵，崔彦曾派都虞候元密统兵三千人拒庞勋，又命宿州（今安徽宿县）出兵五百扼守符离（今安徽宿县北符离集）。庞勋义军随即抵达符离，两军在睢水之上激战。双方都是训练有素的军队，而对方军中各有不少人或是亲戚或是朋友或是相识。当然，庞勋义军此时有家不能回，正是义愤填膺、勇气倍增之时。狭路相逢勇者胜，交战结果，唐官军大败，望风而逃。
庞勋随即回军进攻宿州。当时宿州缺刺史，观察副使焦璐掌摄州政事务，宿州的军队被调去符离后溃败，城内不再有军队，已经是一座空城，即攻即下。焦璐狼狈不堪地逃出宿州，得免一死。庞勋将城中的财货全部聚集在一起，让老百姓随意来取。“一日之中，四远云集”。然后庞勋再从中选募丁壮参军。“自旦至暮，得数千人”，起义队伍迅速扩大。庞勋分兵守城，自称兵马留后。
两天后，都虞候元密引唐官军前来围攻宿州。官军在城外驻营。庞勋用火箭射燃城外茅舍，火势延及官军营帐。庞勋军突然杀出城来，袭击官军，杀死三百人，然后从容返回宿州城中。当天晚上，城里民众协助守城，妇女持鼓打更。庞勋事先搜集宿州城中的三百艘大船，装满粮食，乘流而下。元密以为庞勋义军一定会固守宿州，毫无防备。
第二天天亮后，官军才知庞勋已经冲出重围，狼狈追赶，连早饭也没吃，人人饥乏不堪。这时，突然发现庞勋的船只列于堤下，岸上几队义军发现官军来到，纷纷躲入堤陂。元密以为庞勋临阵畏缩，驱兵进击。不料庞勋军一路从舟中杀出，一路从堤坡间杀出，两路夹攻，从中午杀到傍晚，官军大败。元密引兵败退，陷入菏泽，庞勋军追到，元密等诸将死于乱军之中，官军死约千人，其余人都投降了庞勋，竟然没有一个人得还徐州。
崔彦曾知道元密战败的消息后，大惊失色，慌忙写信请求邻道发兵救援。随后下令紧闭城门，选城中的丁壮入伍守城。徐州城内外一片恐慌，人们普遍同情庞勋义军，没人愿在城中坚守，都想逃走。崔彦曾部下劝他投奔兖州，崔彦曾倒还有些骨气，愤怒地说：“我身为元帅，城若被攻陷，只有死而已，守城是我的职责。”将劝他逃走的人斩首。
庞勋探问降卒，得知徐州空虚，立即引兵北渡濉水，迂山进攻徐州。此时，义军已经有六、七千人的样子，击鼓喧噪，声音震天动地。庞勋军对城外居民好言劝慰，毫不扰侵，于是人们争相归附。义军几乎是不费吹灰之力就攻下徐州城。崔彦曾被俘虏，囚禁于大彭馆。民愤很大的都押牙尹戡、教练使杜璋、兵马使徐行俭等人都被杀掉。当天，城中愿意参加庞勋义军的就达一万余人。而附近诸州百姓听说庞勋招募军队后，争先恐后地赶来参军，甚至父亲送儿子，妻子勉励丈夫，农民们把锄头磨得更锐利，扛着它作为武器来应募。义军人数激增到十万以上。庞勋声名大震。
曾经力主剿灭义军的徐泗团练判官温庭皓被庞勋召来，要求他起草给朝廷的表。温庭皓说：“这件事关系重大，不是顷刻间可以完成的，请让我回家慢慢地起草。”庞勋准许他回家去写。第二天早上，庞勋派人去温庭皓家取表文。温庭皓空手来见庞勋说：“昨天所以不立即拒绝起草表文，是想回家看一下妻子儿子，今天已经与妻儿决别，现在就是来送死的了。”庞勋看了温庭皓几眼，笑着说：“书生敢顶撞我，不怕死吗！我庞勋能攻取徐州，怎么怕找不到人为我起草表文！”竟然没有杀温庭皓，而将他释放。
庞勋起兵后，一系列的军事指挥相当漂亮，取徐州如探囊取物一般。但庞勋没有野心家的本质，他最早与朝廷对抗的原因，不过是要回到家乡，现在，他终于回到了徐州，目的达到了，他也就心满意足了。只不过他现在的身份，是在与朝廷对立的面上，所以，庞勋便希望能得到朝廷同情和理解，最好让他当个徐州节度使。这也是他找温庭皓起草上奏朝廷的目的所在。也正是这种不坚定的意志，成为他日后失败的根本原因。他盼望招安的心理，被敌人最大化地利用了。
之后，为了拱卫徐州，庞勋确实也做了一系列的努力，先后派军攻取淮南道的濠州（治钟离，今安徽凤阳县西北）、滁州（治清流，今安徽滁县）、和州（治历阳，今安徽和县）。还动员了一万余人围攻“当江、淮之冲”的泗州。显然，庞勋始终只是在徐州周遭困守，并无取天下之心。所以，从开始到最后，义军始终只有徐州一个根据地。这样，一旦被包围，内无粮草，外无援兵，困守的结果只能是坐以待毙。
对唐朝廷来说，泗州当江淮要害，关系到江淮漕运。如果泗州被义军控制，唐朝廷的经济命脉就将被切断。唐朝廷惊恐万状，开始了大面积的调兵遣将：任命康承训为义成节度使（即徐州节度使）、徐州行营都招讨使，王晏权为徐州北面行营招讨使，戴可师为徐州南面行营招讨使，率诸道军及沙陀、吐谷浑等族部众，镇压起义军。
因官军调动费时费力，于是戴可师先率三万士兵，紧急增援泗州。
当时，泗州东南的都梁城（今江苏盱眙县东南）已经被义军控制。戴可师官军一上来就猛烈围攻都梁城，庞勋义军在半夜悄悄撤出。第二天，戴可师官军进入都梁城，才发现不过是一座空城。戴可师认为义军胆怯，不战而逃，因而十分得意。此时，天降大雾，丈外不能看清人的面孔。数万义军突然重新杀入，官军大败，戴可师和监军（宦官）被杀，三万官军只有数百人侥幸逃脱，器械、资粮、车马丧失殆尽。
此时，义军声势极大，淮南为之震动。老奸巨猾的淮南节度使令狐綯（令狐楚之子，李商隐旧交）生怕义军进入他的地盘，想出了一招缓兵之计，派人向庞勋表示，愿意代为向朝廷奏请徐州节度使节钺。庞勋等人起兵的本意原先只不过回乡心切，因此内心深处总是存在着适当的时候让朝廷招抚的心理。他也不想把事情弄得更大，觉得能当个徐州节度使已经相当不过，于是停止进兵，等待令狐綯的消息。庞勋等人由于对朝廷存在幻想，结果坐失战机，渐渐的变主动为被动，形势日趋不利。
这时候，汴河已经被义军切断，庞勋乘胜围寿州（治寿春，今安徽寿县）。因“江淮往来皆出寿州”，寿州这里财富如山，诸道贡献及商人财货都囤积在这里。在巨大的物质面前，庞勋陶醉了。加上前面与官军战无不胜，自认为无敌于天下，开始享受起来，“日事游宴”。
戴可师全军覆没后，唐朝廷重新做了部署，改由兗海节度使曹翔为徐州北面招讨使。魏博节度使何全皥也派遣魏博大将薛尤统兵一万三千人，开赴徐州助战。曹翔和薛尤两支官军互相配合，采用口袋战术，逐渐往东向徐州外围收缩。另外，包围徐州的官军还有徐州节度使康承训统率的七万官军主力，沙陀酋长朱邪赤心率领的三千精骑。
而义军内部这时候也开始分化。庞勋部将孟敬文守丰县，因手下军队多而强悍，便起了异心，自己暗中制造符谶。当时魏博大将薛尤进攻丰县，庞勋派心腹将领率三千人增援孟敬文。孟敬文与援军相约共袭官军，由援军当先锋打头阵。结果，庞勋新派的援军与官军交战时，孟敬文悄悄率军队走，致使庞勋新派的援军全军覆没。庞勋知道后大怒，假意要让孟敬文镇守徐州，孟敬文十分高兴地赶去徐州，半路被庞勋预先埋伏好的士兵杀死。
眼见官军大兵压境，庞勋有些沉不住气了，先派将领王弘立率主力三万，前去抵挡官军。王弘立出师不利，遭到沙陀精骑和康承训官军的夹击，全军覆没。王弘立只身逃回。
康承训随后率军进逼地势险要的柳子，与义军柳子守将姚周交锋。姚周有勇有谋，双方在一个月之间交战数十次，各有胜负。恰值大风刮起，官军趁势四面纵火，姚周不得不弃营逃走。沙陀军以精锐骑兵于半路邀击，将义军屠杀殆尽，自柳子到芳城，死尸遍野。这场战争中，沙陀朱邪赤心扮演了一个极为重要的角色，甚至一度救出陷入叛军包围之中的唐朝统帅。
义军将领姚周冲出重围，只带领麾下数十人南奔宿州。然而，义军宿州守将梁丕平素与姚周有私仇，先开城门让姚周进来，之后杀死了姚周。庞勋知道后，责怪梁丕擅杀姚周，撤了梁丕的职。在这个时候，庞勋犯了另一个错误，改派徐州旧将张玄稔代理宿州州事……
顺便提一句，就在官军与义军殊死较量的时候，唐懿宗正在嫁宝贝女儿同昌公主。同昌公主事见《侯昌业之死》一篇。
庞勋经过前面的几次挫败后，这才明白他一直盼望的朝廷招安是不可能来了，于是接受了谋士周重的意见，杀了徐泗观察使崔彦曾及徐州监军张道谨等，表示从此与唐朝廷誓不两立的决心。他之前之所以迟迟不杀崔彦曾等被俘虏的将领，就是为了给招安留后路。
庞勋为了避免两线作战，打算先对付徐州北面招讨使曹翔和魏博大将薛尤的军队，解除西北方向的威胁。庞勋留父亲庞举直和将领许佶等留守徐州，自己亲率大军出击包围丰县的魏博军。庞勋在半夜来到丰县，魏博军队毫无觉察。当时，魏博军分为五个营寨，其中靠近丰城的一个营寨屯驻有数千人。庞勋纵兵将这个营寨团团围住。其他魏博四寨闻讯赶来救援，庞勋早在要道上设下伏兵，四路援兵都被杀退，各自败回本寨。当晚，庞勋见被围营寨一时难以攻克，便解围离去。离奇的是，魏博军反而因此而人心躁动，惊恐不安，又听说庞勋亲自领兵到来，都惊骇不已，于是不战自溃，纷纷趁天黑逃走。更离奇的是，其他四个营寨也都乘夜溃逃。
此时，徐州北面招讨使曹翔正在围攻滕县，听说魏博军队大溃败，心中惊恐，不敢继续交战，率军退保兗州。
［乾符五年（878年），河东发生变故，地方的土团因没有拿到军饷，杀死马步都虞侯邓虔。唐朝廷撤了河东节度使窦浣，任命曹翔为河东节度使。七月，曹翔上任，将杀害邓虔的土团士卒十三人逮捕并诛杀。九月，曹翔到晋阳上任两月后，突然神秘暴亡。昭义军趁机作乱，在晋阳城中大肆抢劫。晋阳百姓毫不惊慌，自发组织起来，共同讨击乱军，杀死昭义军千余人，昭义军自溃。历来乱军劫掠，都是杀人放火，百姓遭受惨重损失。晋阳百姓却能扭转形势，为当时一大奇事。］
至此，对义军西北方向的威胁完全解除。庞勋随后引兵南下，直奔柳子寨，准备与驻扎在这里康承训官军主力决战。为了一战而平，庞勋事先制定了详细的作战计划。不料庞勋军中的淮南俘虏逃到官军一方，将作战计划给康承训。康承训得以事先作好准备，秣马整众，设伏等待。结果可想而知，义军陷入官军重围，损折了数万人，尸体布满十几里。庞勋解除衣甲穿短衣逃走，收集溃散的士卒三千人，退入徐州。
最早庞勋起兵时，下邳（今江苏睢宁县西北）土豪郑镒聚众三千，自备资粮器械，热烈响应义军。郑镒见庞勋此时兵败，立即以下邳投降官军。蕲县（今安徽宿县南）土豪李衮也杀死义军守将，举城降唐。沛县裨将朱玖趁义军守将李直赴彭城议事，举城降唐。宿州守将张玄稔杀起义军将领张儒等，开城门降唐。宿州城内有精兵三万人，康承训配以精骑数百，直趋符离。符离守城义军还不知道张玄稔已叛变，开门延纳，结果被张玄稔顺利拿下符离。
庞勋遭受一系列的失败后，引兵西击宋州（州治宋城，今河南商丘县南）、亳州（州治谯县，今安徽亳县），打算吸引官军西进，以解徐州之围。咸通十年（869年）九月，庞勋率起义军二万西出，袭破宋州南城