明亡的教训就在眼前，清廷不敢擅自废除驿站，一直拖着不肯改革。
1878年，根据李鸿章的建议，由海关总税务司赫德主持，依托全国各处海关办理现代邮政。
直至1896年，清廷才委托赫德办理国家邮政，一切仿照英国成规。
吴捷深知邮政工作的重要性，将邮政摆在与警政同等重要的地位。邮政是军政府所能提供的最基本的公共服务，也是普通老百姓与军政府打交道的最主要窗口。百姓对军政府是否满意，很大程度上取决于对邮政工作是否满意。
军政府在县一级建有邮政局，在重要交通枢纽建有邮政点，在乡镇民兵营建有邮政代收点。
邮政局主要承揽投递普通信件、供销民生物资、售卖新闻报纸、快递邮件等业务。除此之外，邮政局与电报局合作，可以拍发电报；与银行合作，可以开展保险信函、邮政储金等金融业务。
有了警察局和邮政局，辅之以现代法律，军政府有声有色，根据地内生机勃勃。