嘉祐二年（1057年）张载登进士第，任祁州司法参军，又迁丹州云岩令，签书渭州军事判官公事。任职期间，在兴教育、变风俗、关心民瘼以及断狱案诸多方面，颇有政声。
宋神宗熙宁二年（1069年）冬，被召入对，神宗询以变法事，张载以“复三代为对”。除崇文院校书。但他同朝中执政大臣议论不合，次年，他的弟弟张天祺因为极力反对新法，受到贬斥。张载不愿在京师呆下去，请求回故里。此后六年多在横渠镇的岁月里，张载生活贫困，但他“终日危坐一室，左右简编，俯而读，仰而思，有得则识之，或中夜起坐，取烛以书，其志道精思，未始须臾忘也”。他说自己的追求是：“为天地立心，为生民立命，为往圣继绝学，为万世开太平。”认为“学者先须变化气质，变化气质与虚心相表里。”又说：“学者观书，每见每知新意，则学进矣。”“万物皆有理，如不知穷理，如梦过一生。”他作诗说：“芭蕉心尽展新枝，新卷新心暗已随。愿学新心养新德，旋随新叶起新枝。”
他的执著追求和探索，精神感人，“闻者莫不动心有进”。一批学人师事张载，形成一个学术群体。吕大忠、吕大钧、吕大临，三吕兄弟执弟子之礼。苏昞、范育、游师雄、种师道等，先后俱列门墙，关学兴盛。
熙宁九年秋，张载把自己一生的探求所得的《正蒙》，出示给门人，说：“此书予历年致思之所得，其言殆与前圣合欤。大要发端示人而已，其触类广之，则吾将有待于学者。正如老木之株，枝别固多，所少者润泽华叶尔。”
熙宁十年春，张载被召还馆，乃知太常礼院。朝中有关的官员同他议礼不合。时他身患重病，无心在京师住下去，又一次辞官；在回陕西的路上，路过洛阳见二程。十二月，到达临潼，便与世长辞。这位学者一生清苦，死后的棺木，还是从长安赶来奔丧的门人凑钱买的。张载死后，程颢在《哭子厚先生诗》中恸哭：“叹息斯文约共修，如何夫子便长休！东山无复苍生望，西土谁共后学求？千古声名联棣萼，二年零落去山丘。寝门恸哭知何限，岂独交亲念旧游。”从理学形成的角度看，张载创立的关学，至少有这几个方面是值得提出来的。一、《西铭》与理一分殊的思想。张载的著作很多，但是很多没有流传下来。后人为搜集、整理其作品，做了大量的工作。1978年中华书局出版的《张载集》，收集、增补了大量的材料。重要的篇目有《正蒙》、《横渠易说》、《经学理窟》、《张子语录》等。《东铭》与《西铭》收在《正蒙》的《乾称篇》中。《西铭》在张载的作品中具有重要的地位。其开篇写道：乾称父，坤称母，予兹藐焉，乃混然中处。故天地之塞，吾其体；天地之帅，吾其性。民吾同胞，物吾与也。大君者，吾父母宗子；其大臣，宗子之家相也。尊高年，所以长其长；慈孤弱，所以幼吾幼。圣其合德。贤其秀也。张载把乾坤的天，作为万物也包括人的父母；人在天地之间，与天地混然为一。张载的思想是万物万事为一，他在《经学理窟·诗书》中说：“万事只一天理。”乾坤是万物、人的父母，但是人、物毕竟相异。这里面包含了理一分殊的思想。张载在《易说·系辞上》中说：“天地虽一物，理须从此分别。”二程一再强调《西铭》的“理一分殊”的意义，并不完全是附会。至少，二程的万物一理与理一分殊的思想，多少是从张载那儿得到了启发。张横渠把大君作为乾坤，也就是作为天的宗子；把大臣作宗子的家相。这又把封建等级礼制，作为乾坤一源所派生出来的，从而表明了封建礼制的合理性。二程所以看重《西铭》，不是没有道理的。二、太虚即气说。张载认为世界的本体是“气”，他在《正蒙》开篇的《太和篇》中说：“太虚无形，气之本体，其聚其散，变化之客形尔。”“太虚不能无气，气不能不聚而为万物，万物不能不散而为太虚。”总之，气为万事万物的本源，万事万物的变化是气的变化。《诚明篇》说：“性者，万物之一源”，“性与天道合一存乎诚”，张横渠把性、天道归之于“诚”，这是他的心性论的一个方面，也应当指出。世界上各个事物都有两个对立的双方，张载称作“一物两体”，而“一物两体者，气也”。所以他的气的本体论又是辩证的运动观。此外，张载指出人人都有“天地之性”，但由于“气质之性”的差异，造成人和人的不同。为了成圣人、君子，应当“穷理尽性”、“穷神知化”。学习可以改变气质之性，“今人所以多为气所使而不得为贤者，盖为不知学”。总之，张载的气本体思想，在宋代理学家中，显示了他的特点，显示了他在理论上的光彩。他的理论思路和一些命题成为宋代理学的思想资料。