眼看孟让有些意动，王薄接着说道：“兄长放心，我当年在江淮纵横多年，也算个人物。现在有大人物找上门来，他们许诺，只要咱们在山东乱起，武器、粮食都会源源不断地供应咱们的。”
孟让也是悍匪，此时也不再犹豫。今日文学网
“既然王薄兄弟有如此志向，我孟让无论如何也得陪兄弟走这一遭。”
二人商议之后，便召集长白山上的各路盗匪，商议一同起事。
王薄带着麾下下山，向长山县（治今山东省邹平市长山镇）令投降，还带来了长白山大盗孟让的首级。
在长白山地区，孟让的名头可比王薄大多了。孟让的受首，让县令喜不自禁。
长白山就是一个土匪窝子，群盗极多。众人为匪的心思各异，也有不少人当匪盗就是为了受招安的。
王薄此来，手下不过一百多人，县令也不疑有他，更准备将王薄竖立成一个盗匪典型，以匪治匪。
王薄本人识文断字，在县令身前也甚是恭谨，全无寻常盗匪的粗鄙与猥琐，因此颇得县令的好感。因此县令让王薄进入城中，准备明日整点人马。王薄一行人，手中的兵器大多都是木叉、锄头、木棍，根本都称不上兵器，更无铠甲和远程兵器，让县令看了啼笑皆非，也就没有将王薄一行人缴械。
等到夜里，夜深人静，被安置在城中的王薄一众人纷纷从身上掏出利器，前往城门之处。
这时天气寒冷，守门的士兵不多，且大多打着瞌睡。王薄带人一拥而上，将守卫杀死，打开城门。此时孟让等人早就在外等待多时，眼看城门打开，孟让遂带人冲入城中。
一时之间，四处火起，城中大乱。
王薄、孟让分头带人清缴城中残兵，长山县遂破。
王薄、孟让二人在长山县打起反隋的大旗。
为了招纳队伍，王薄又作歌《无向辽东浪死歌》曰：
“长白山前知事郎，纯著红罗锦背裆。
长矟侵天半，轮刀耀日光。
上山吃獐鹿，下山吃牛羊。
忽闻官军至，提刀向前荡。
譬如辽东死，斩头何所伤。”
而这王薄的匪号便是知事郎。歌谣号召百姓拒绝出征高句丽，参加起义军，并迅速传遍长白山区。附近的贫苦农民，被欺压严重，多往归之，因此参加起义的人数迅速增至万余。