，他率部流窜到豫西巩县、宝丰、鲁山一带，投奔“庙道会”会首李凤朝门下，两年后自己成为“庙道会”会首。1922年，他拉着一批道徒投入河南陆军最后逐渐混成团长兼豫西镇守，从副官升任机关枪连连长。挂名当了营长之后，他独立山头，成为土匪头子，搜罗教匪，扩充队伍，自称旅长，1924年第二次直奉战争时，驻豫西直军开赴前线，利用这个机会，孙殿英独立出来并招兵买马，队伍扩大至数千人。
1925年春，镇嵩军将领、豫陕甘剿匪副总司令憨玉昆与国民军胡景翼部爆发大战，孙殿英部被憨玉昆收编，编为第五混成旅，孙殿英任旅长，驻防密县。不久，憨玉昆战败，孙殿英改投国民三军副军长兼第二师师长，叶荃部任旅长。不久改称第二师升任师长。随后，国民三军由河南开赴陕西，孙殿英不肯离开。孙殿英率部在豫西、皖北一带到处攻城略地。军阀孙传芳、安徽省督军陈调元对他追缉。1925年秋，孙殿英率部流窜到山东济宁后，被奉系军阀张宗冒收编为第三十五师，他任师长。在改编为“直鲁联军”时，改称为第五师，委为第五师师长，下辖两个旅共五六千人。
1926年春，孙殿英率部在河北沧县一带参加了张宗昌与李景林联合向国民军反攻的战斗，孙殿英袭击了国民三军所属徐永昌部，为张宗昌立下了第一次战功。事后，张宗昌将孙部改编为直鲁联军第三十五师，不久又扩编为第十四军，孙殿英任军长。
1927年春，孙殿英在直隶军务帮办徐源泉的指挥下，在南京附近参加了孙传芳对北伐军的战争。不久，又调往直隶大名，兼任大名镇守使。这年秋天，孙殿英又被张宗昌派往豫北，与冯玉祥部交战。不久，奉军与直鲁联军被国民革命军打败，向北溃退。孙殿英率残部退往天津，后又退往蓟县、马兰峪一带。这时，何成浚奉蒋介石之命策动孙殿英投降。
1928年5月，奉军和直鲁联军阻止不住蒋介石联合冯玉祥、阎锡山等军北进，全线败退。孙殿英率部退至蓟县和遵化一带，被蒋介石收编，委为第六军团第十二军军长。
1928年春，原奉军收编之积匪马福田率部叛逃，直奔清东陵旁的马兰峪，蓄意长期挖坟盗宝。当时，国民革命军北伐已进入河北地区，奉军北撤，而冀东一带散匪非常多，异常肆虐。在这种情况下，国民革命军派出孙殿英部前往剿抚。路途中，孙殿英屡见东陵殿宇富丽堂皇，为了筹措剿匪资金，起了盗墓的想法。接着，他得知马福田进驻马兰峪准备掘陵的消息，马上命令第八师师长谭温江连夜率兵前往，赶跑了马福田。同时，为遮人耳目，他们到处张贴布告，声称部队要搞军事演习，便把目标锁定到了这昌瑞山之上，开始计划盗墓行动。
此时的孙殿英很是惆怅无奈，虽说他已身处东陵数日，但盗宝一直毫无头绪，对于苏必脱林这样对东陵如此熟悉的人也至今没有什么新的发现，他叹了叹气向远处的东陵望着。
“军长，找、找、找到了，苏必脱林他找到地宫的入口了。”谭温江气喘吁吁的说。只见孙殿英拍了一下桌子激动的站起来说：
“走，跟我去看看！”