從一九一四年八月開始,余清芳、羅俊、江定等人花了不少心血來動員願意參加起義的人;不過,除了江定等南部山區地方領袖之外,其他地區的領導人似乎沒有認真規劃相關戰鬥事宜,包括購買武器、訓練新的參與者等。因此,等到日本殖民政府發現他們的意圖時,很快就把大部分人物逮捕了。要不是江定所率領的武裝組織的猛烈行動,整個事件應該是在沒有流血衝突之前就落幕了。
依照余清芳等人的計劃,起義時間訂在一九一五年八、九月,也就是他們預測會發生天災的農曆七月。不過,人算不如天算,余清芳等人的計劃事先被日方發覺了。一九一五年四月,日本人接到一個關於「中國軍將攻打台灣」的情報,當局立即下令暗中調查「僑居台灣的中國人」和「跟中國人有來往的台灣人」這兩類的人。日方經過嚴密的佈線,得到珍貴的情報,說在今彰化縣大村鄉有位武秀才賴宜和同庄保正賴格二人的住宅,常有中國人進出,又這幾名中國人是隱藏在黃厝庄的山中加油坑一間廟裡,他們好像有所陰謀。同時,日人又查出賴宜和同鄉的賴淵國來往密切,同時有姓名不詳的中國人和他們在一起。因此,日警開始注意賴淵國的書信往來,因而得知余清芳、羅俊等人即將發動武裝抗爭。台灣總督立即下令全台緝捕,將余清芳、羅俊的繪像張貼在各地張貼,以便擒拿。住在台中廳的羅俊、賴宜、莊鐘等三人,趕緊躲到嘉義廳。另外一些重要幹部如蘇有志、鄭利記、李王、賴淵國、賴冰、張重三、李火見、李火生等人,因為來不及逃走,一個個地被日本警察逮捕。

羅俊是一位虔誠的神佛信徒,因此逃亡期間,身上帶有數種祈禱文,其中一種上面有「某某進退兩難,無計可施。今審設壇…志心載禮,虔誦經咒,求覺妙法。伏求玉皇上帝,敕令眾仙、祖佛、祖神聖降臨現身指教,傳授妙法」等字眼。不過,羅俊再怎麼虔誠,也難逃日本殖民政府撒下的天羅地網。不久之後,台南廳接到密報,指出有一個面貌酷似羅俊的人,正帶著二人往大目降(台南縣新化鎮)方向走,台南廳馬上電請嘉義廳派遣大批日警緝捕。在一九一五年六月二十九日清晨,日方在嘉義廳竹頭崎庄的尖山森林中捕獲羅俊,同時被捕的還有賴宜。羅俊被捕時,曾經猛烈地抵抗,甚至於咬斷了一明警員的拇指,最後寡不敵眾,只好束手就擒。
羅俊被捕後,余清芳眼見事機敗漏,立即帶著募得的資金2,000餘圓,逃向位於今日的台南縣和高雄縣交界江定的根據地後堀仔山區,和江定等人導的武裝組織結合,
共同商議如何起事。他們從七月初就開始發動一連串的襲擊行動,燒毀很多處派出所,殺害數十名日本警民、眷屬。他們通常採取這樣的戰術,先派一個人假裝送信到派出所,等到派出所的人員開門時,其他的戰士就以迅雷不及掩耳的速度衝進去,把在裡面的警員或眷屬全數加以殘殺。
以甲仙埔為主要攻擊目標的抗爭活動,自七月八日一直延續到七月十六日。在最初的幾天,抗軍勢如破竹,但在日警反攻之下,由於抗軍人數較少、不能作持續的戰鬥、武器裝備不良等因素,抗軍只好在地方居民的掩護之下,突破日搜查隊的包圍線,退回江定在後堀仔山中的根據地。余清芳、江定返回後堀仔山後,乘著攻打甲仙埔的餘威,再加上江定喪子之後報仇心切,極力招徠同志,總計約達300多人,他們便開始策劃第二波攻擊行動,決定鎖定目標襲擊南庄(台南縣南化鄉南化村)等警察派出所。
在此兩個星期之後,八月二日駐紮在竹頭崎之警察部隊派出的密探回報,稱人數不確定的「匪徒」集合在一起,擊打大鼓,好像在舉行祭祀(這可能是一次祭旗儀式)。當地警官判斷竹頭崎、南庄兩派出所有被襲擊之虞,命令這兩個派出所及各要衝派出所要加強警戒。這一天晚上十點半左右,北寮、南庄間電話線被切斷,到了半夜,抗軍開始襲擊南庄派出所。1130分,在南庄派出所東北山麓響起一連串的槍聲,抗軍與日警對峙著,32名日本警民陷於苦戰,最後許多日警先後被抗軍槍手擊斃,而只有2、3位存活著。當時,竹頭崎、吧哖支廳等派出所在兵力不足,又不明戰鬥狀況的情形下,沒有能夠前往支援。

在戰鬥之中,余清芳看見同志林斑中彈倒地而死,產生了報復之心,就和江定商議採火攻,徹底地殲滅南庄派出所。他們從南庄民家徵調了十多桶煤油,分別裝在汽水瓶、立瓶中,將它們點燃後,從窗口或屋頂丟進派出所內。
一時之間,火光沖天,煙霧彌漫。在派出所內的婦女、小孩悲慘地哭叫著,他們大都活活地被燒死。也有少數人從屋裡逃出來,也都被在外的抗軍殺死
八月三日余清芳、江定的抗爭民兵大隊進駐台南縣左鎮鄉內庄仔庄,他們在此做了幾項攻擊的策略:1、派民兵燒燬崗仔林庄派出所。2、向神明請示抗軍第二天清早的前進路線、地點,決定往吧哖方向前進,最後攻佔大目降(今日新話鄉)和台南市。由於余、江部隊的前進路線是請示神明而得來的,又是臨時決定,這使得日本殖民政府對余、江抗軍的動向無法預測,而感到難以掌控情勢。不過,余、江二人決定直接攻擊警力雄厚的殖民行政中心,也是導致整個武裝抗爭失利的重要原因。
抗軍所面對的日方在南庄派出所遇襲之後所集結的強大火力,包括以下幾個馳援的警力和軍力:八月二日,南庄派出所遭余、江抗軍攻擊燒燬,吧哖支廳長立刻下令採取緊急措施,召集各派出所日警50餘名,火速趕往南庄支援。大目降支廳長也率領警察隊190人到吧哖支援。八月三日,台南廳長下令派遣第二守備隊中步兵第二聯隊的步兵第一中隊(一中隊有90名士兵)到大目降,準備發動攻擊。這支隊伍在八月四日到達大目降後,繼續往北前進,八月六日抵達南庄。此外,南庄警察派出所日本人全部被余清芳等殲滅的消息傳到總督府時,當時台灣第六任總督為安東貞美 (1853-1932) 認為事態嚴重,馬上下令駐紮在南部正在演習行軍的第二守備隊歸營,全軍進入戒嚴狀態。八月四日上午派出步兵砲兵聯合部隊中的步兵四個中隊,砲兵一個小隊(一小隊有
30明士兵),總共約400名士兵,配備有二門大砲,前往吧哖支援。此外,總督府也命令黑田部隊中的步兵二中隊和山砲兵小隊,以及擅長於熱帶戰爭的耐熱行軍到吧哖去打仗。等到八月六日時,上述威力強大的軍隊開始陸續抵達吧哖。以下是從八月三日起,到八月六日的戰況:
八月三日,抗軍燒毀崗仔林派出所。
八月四日,九層林庄(今日玉井鄉)保正報告稱,抗軍於內庄仔庄田中吃午餐,並揚言今夜要襲擊大目降支廳,人民都須參加,原住民也會由後方來參加,人數約400、500百名,並攜有100枝以上的銃器。不久之後,大目降、吧哖間的警察專用電話線被抗軍切斷,抗軍數百人開始攻擊並且佔領了芒仔芒派出所。四日晚上,抗軍渡過後堀仔溪上游,沿虎頭山麓進入吧哖北方。等到吧哖的日本人接獲這項情報時,馬上決定將散居在吧哖街二百多個非擔任公職的日本人,全部集中到當地的製糖廠來,而有戰鬥能力者則被派參加防衛工作。
八月五日清晨五點多,抗軍沿著虎頭山通往吧哖街的數條小溪,到逼近市街約五、六十公尺處開始射擊。八點多,抗軍的攻勢更加猛烈,一大群裸著上半身、腰帶神符的刀槍隊,
利用地形的障蔽,在槍手的掩護下,衝進日本警察隊的掩堡;十點左右,雙方暫時停火。下午三點開始,抗軍再度發動攻擊。日警一則因援軍未尚到來,二則面對抗軍的猛烈攻擊,所以陷入苦戰。抗軍有「敢死隊」,日警也派出「決死隊」來阻絕抗軍的前鋒部隊,他們知道只要採取拖延戰術,降低死傷,等援軍一到,敵我的情勢將會有個大逆轉。下午六點,抗軍的裸體拔刀隊殺入日警掩堡,但無功而返,七點三十分抗軍撤退休兵,打算養足精神,明早再戰。
八月六日,炮火再度點燃,抗軍除了戰鬥外,也不斷向吧哖庄民喊話,號召他們加入抗爭戰事:「起來吧!加入戰鬥行列或做內應,殺死日本人!」這個時候來自各路的抗軍人馬已達一千多人,抗軍士氣十分高昂,殺聲、槍聲震撼整個吧哖上空。日人眼看情況不妙,如稍有疏忽,吧哖一定會落入抗軍之手,因此集結所有日警、日僑,在正規軍未到達吧哖前,極力守備。
到下午二點多,日本正規軍終於趕到了,黑田部隊的步兵二中隊和山砲兵小隊立即展開反擊,山砲隊則從沙仔田庄到芒仔芒庄布設砲列,一齊猛烈轟擊。守備吧哖的日警隊一見正規軍的來臨,士氣大振,也一併響應攻擊。抗軍原來的素質就參差不齊,加上訓練不足,又有一些是臨時起意、見風轉舵的牆頭草,看情勢不對,就拔腿開溜,這就間接地影響了抗軍的戰鬥意志。加上抗軍的武器很有限,不僅槍枝的數量少,另外僅有二門類似舊式砲的大砲,其他則是鋤頭、耕田用的鐮刀、宋江陣的傳統武器,大家所憑恃的只是一股勇氣和寄望神符的護佑。相對於抗軍武器的稀少,日軍則是有精良的新式武器。雙方對陣的結果也是可以預期的,在交戰一小時之後,抗軍潰敗如山倒,勝負立見分曉。根據日方的統計,在這次的戰鬥後抗軍遺下159具屍體,又在後來的零星抵抗中,也有150名遭到擊斃,而被捕者更是不計其數。