鲁迅先生称《史记》是：“史家之绝唱，无韵之离骚”。但比《史记》这本书更难得的是司马迁在身遭酷刑、生不如死的情况下，还能以常人难以想象的精力去整理史书，以严谨的态度对待史实。
司马迁，字子长，公元前145年生于左冯翊夏阳县（今陕西韩城县南）。他的父亲司马谈是西汉朝廷的太史令。在父亲的严格教育下，司马迁十岁左右就能流利地诵读《左传》《国语》等先秦史书，十八九岁的时候又师从当时的大儒董仲舒和孔安国学习。
俗话说“读万卷书不如行万里路”，司马迁并不满足于书本中得来的知识，从20岁起，他开始踏遍大江南北，探访前人所留下的遗迹。司马迁从长安出发，出武关（今陕西商县东），经南阳（今河南南阳县）至南郡（今湖北江陵县）渡江，到了长沙的汨罗县，参观当年楚国诗人屈原自沉的地方。而后从长沙溯湘江而上，考察了古代传说中帝舜南巡死葬的九疑山（今湖南宁远县境），又顺沅江而下，东浮大江，南登庐山，考察大禹治水的遗迹。
游历了江南之后，司马迁渡江北上，首先到达淮阴（今江苏淮阴县东南），向当地父老请教汉初大将淮阴人韩信的故事，然后渡过淮水，到鲁（今山东曲阜）去感受孔门遗风。之后他先后游览了秦始皇东巡郡县曾到过的峄山，西楚霸王项羽建都的彭城（今江苏徐州市），刘邦起兵的沛县（今江苏沛县东）。
司马迁这一次长途跋涉，考察了历史遗迹，了解了许多历史人物的遗闻逸事和民情风俗，开阔了眼界，扩大了胸襟。
大约二十五六岁的时候，司马迁因为才华出众受到武帝赏识，入仕为郎官，并于公元前111年秋后，奉武帝之命出使巴蜀以南，视察安抚西南少数民族地区。当他第二年正月从西南回来时，才发现父亲司马谈已经病危。司马谈在病榻上握着司马迁的手流泪说：“自从孔子传道以来400余年，诸侯自相兼并，史书废绝。现在海内一统，贤者众多，我做太史令却也没能著书记载，以致天下史文缺失，深愧于心，你一定要记挂着这事啊。”司马迁流泪答应了父亲的要求。
公元前108年，司马谈逝世后的第三年，司马迁果然做了太史令，并在此后两年里参与了太初历的制定。太初历完成之后，他把大部分的精力都投入史书的著述中去。
就在司马迁呕心沥血地为自己的理想奋斗的时候，一场大祸却向他靠近了。公元前99年，汉武帝的小舅子贰师将军李广利率领三万骑兵在祁连山进攻匈奴右贤王。武帝知道自己的小舅子没什么大本事，又派了将军李陵（李广的孙子）率领5000步兵进袭居延海以北大约1000里的地方，想分散匈奴人的兵力，让李广利打个漂亮的胜仗。结果李陵率领的汉军被匈奴单于的八万骑兵所包围，血战八天，军队弹尽粮绝，救兵无望，李陵仰天长叹说：“我没脸面去回报皇帝了！”于是就投降了匈奴。
单于因为平素就听说过李陵家的名声，就把自己的女儿嫁给李陵。这个消息传回汉朝后，恼羞成怒的汉武帝下令杀了李陵全家。司马迁看不惯满朝大臣落井下石的丑态，也为老将军李广的后人遭此待遇而不平，就上书为李陵辩白，称李陵投敌是罪无可恕，但情有可原，李陵一定是想忍辱偷生，找机会再报答国家。可这时的武帝已经听不得不同意见，他把司马迁的直言当成了对自己偏袒李广利的影射，就将司马迁下狱，定为死罪。
武帝时代犯死罪的人，除了俯首受诛外，根据两条旧例可以免死：一条是拿钱赎罪；一条是受宫刑。司马迁官小家穷，只能在死与受宫刑之间作出选择。这时是公元前99年，司马迁的史书还未写就。最终他决定，为了完成著史的工作，宁可忍受宫刑的屈辱。
司马迁出狱后，做了中书令，以宦官身份在内廷侍候武帝。这时他官位比太史令尊显，但司马迁除了坚持他的著述工作以外，对朝廷内外的一切事务，已经毫无兴趣了。
司马迁的著述，大致于公元前93年完成。这本书下笔质直，不虚美，不隐恶，因此触怒了武帝，被汉武帝将其中指斥朝政最多的《景帝本纪》和《今上本纪》（汉武帝自己的本纪）削去，又寻事将司马迁下狱处死。武帝死后，朝野对武帝在位时的政策进行了全面的反思，这时司马迁的《史记》才由他的外孙杨恽传播出去，很快享誉远近。
《史记》文笔优美，叙事生动，是历代学习散文的典范教材。《史记》的史笔也很严谨，不为权贵隐讳，开创了纪传体的体例，成为后代“二十四史”中的经典著作。现代文学家鲁迅说它是“史家之绝唱，无韵之离骚”，就是指它无论史学性还是文学性，都是无与伦比的。