宋太平兴国五年（980年）十月，李光睿之子定难军留后李继筠死，子年幼不得嗣，由季弟时任衙内都指挥的李继捧嗣位，从而引起党项拓跋氏宗族的内讧。宋朝企图藉此机会令李继捧携家属入朝，向宋朝献出党项李氏世居的银、夏、绥、宥、静五州之地，并迫令李继捧留居京师。太平兴国七年（982年）六月，继迁其时居住在银州，又接到宋朝诏书，令其“护送李氏缌麻以上亲赴阙”，始知祖居五州之地已尽归宋朝。继迁不愿从命，当即召集弟继冲和亲信张浦等商量对策。继迁向众人道：“吾祖宗服食兹土逾三百年，父兄子弟列居州郡，雄视一方。今诏宗族尽入京师，死生束缚之，李氏将不血食矣！奈何？”继冲主张乘夏州无备，杀诏使，占据绥、银二州，对抗宋朝。张浦在分析自己与宋朝实力对比后说：“吾闻小屈则大伸，不若走避漠北，安立室家，联络豪右，卷甲重来，未为晚也。”继迁接受了张浦的建议，诈称其乳母亡故，将殡葬于银州郊外。是时继迁在灵柩中暗藏兵器，以家属亲信等数十人扮作送殡之人，出银州后，直奔一个叫地斤泽（今内蒙古伊克昭盟鄂托克旗境）的地方，此地距夏州有300里。继迁在这里向众人出示其祖先拓跋思忠像，用以号召部族。一时部族纷纷来此拜谒，从者日众。同年十二月，继迁第一次率部众进攻夏州（今陕西靖边北白城子），当听到宋朝派兵援助银、夏诸州的消息，随即退走。
宋太平兴国八年（983年）三月，李继迁遣人到宋朝的麟州（今神木北）进贡马匹、骆驼等物，意在麻痹宋朝。宋太宗即派遣内侍秦翰赍敕书招抚继迁，继迁留秦翰宿于营帐中，任其出入无疑。秦翰见继迁无意归宋，欲刺杀继迁又未得机会，乃还宋。这一年的五月至九月，继迁率部犯宋葭芦川（今佳县西北）、三岔口（内蒙古乌审旗西南），都被击败。十二月，又约请西戎部族合兵2万众进攻宥州，也被宋军击败，仍退驻地斤泽，积蓄力量，谋再出击。太平兴国九年（984年）七月，又率部袭击夏州西北之王庭镇（今乌审旗南），俘获甚众。自此以后，继迁以地斤泽为根据地，聚集部族兵已逾万，不时令张浦、李大信四出侵扰掳掠，使宋军难以捉摸，不敢轻易深入。九月，宋朝知夏州尹宪、都巡检使曹光实，暗中使人侦知继迁的营地，以精骑数千，前后两次于夜间偷袭继迁大营，焚烧族帐，掳掠牛羊财物而去。继迁与弟继冲弃众逃走，继迁妻与母罔氏被掳。继迁经此惨败，又惧怕宋军追赶，整日东躲西藏，几无安身之地。后来还是依靠部族的周济，部民以“李氏素著恩德，悯其穷蹙，稍稍赈给之”。继迁对周济他的部族豪右说：“李氏世有西土，今一旦绝之，尔等不忘先泽，能从我兴复乎？”众豪右纷纷响应，并相约各率部民聚集于夏州北部的黄羊平，继续招纳蕃部。当时野利部的首领还把自己的女儿嫁给继迁。自此继迁的势力复又壮大。雍熙二年（985年）二月，继迁用计以美言诱骗居住在银州的宋都巡检曹光实，到葭芦川接受他们纳节归顺。继迁预先于其地设伏待之。曹光实擅功心切，于所定之日，中继迁伏兵，曹光实及其从骑被袭杀。继迁遂入据银州，仍以都知蕃落使称，权知定难军留后。以张浦、刘仁谦为左右都押牙；李大信、破丑重遇贵为蕃部指挥使；李光祐、李光允等为团练使；弟延信为行军司马。并“预署”州官：折八军为并州刺史，折罗遇为代州刺史，嵬悉咩为麟州刺史，折御乜为丰州刺史。
李继迁自得银州之后，虽设官授职，急欲重振旗鼓，但在进攻宋朝时多失利，或遭惨败。雍熙二年（985年）三月，继迁以银州之胜，乘胜攻陷宋会州（今陕西靖边东北），纵火焚城。又进攻河西三族砦，寨将折遇乜败降，遂进围抚宁砦。四月，与宋军战于浊轮川，大败，丧失五千余众，部下没邵浪、悉讹与部族皆败，继迁领残部弃银州逃走。其后继迁将折罗遇、埋乞、埋乜也战死或被擒杀，宋降将折遇乜被俘。其时虽有夏州岌伽罗腻等族归附继迁，给予应援，不久又被宋将郭守文击败或降宋。继迁又一次陷入了困境。但是李继迁并未被困难所折服，他收集余部，与部下亲信共谋对策。为摆脱孤立无援处境，图谋寻找强大的支持者。他对众人说：“吾不能克服旧业，致兹丧败，兵单力弱，势不得安。北方耶律氏方强，吾将假其援助，以为后图。”雍熙三年（986年）二月，继迁派遣张浦携带重金到辽，请求附辽称臣。四月，辽主耶律隆绪接受请求，遣使持诏授继迁为定难军节度使，银、夏、绥、宥等州观察处置等职，“特进检校太师，都督夏州诸军事”，授继冲为副使。十二月，继迁又亲率五百骑至辽边境，向辽主求婚。耶律隆绪欲借继迁牵制宋朝，许以公主嫁继迁。继迁附辽后，即于雍熙四年二月，出兵进攻宋夏州，于王庭镇败宋知州安守忠，进围夏州城，长达两月之久。八月，继迁屯兵黑水河，据险自固。因渡河欲攻宋罨子寨，被都巡检使石保兴击败。十一月，继迁又准备进攻银州，当党项诸部会兵于无定河侧之时，继迁被宥州党项咩兀族首领都指挥遇乜布用暗箭射伤，因而未能如期攻银州。