公元前99年，汉大将李陵带领五千精兵与匈奴作战。匈奴单于亲率三万骑兵迎战李陵。开始，李陵打了几次大胜仗，后由于另一汉大将李广利兵败，被匈奴大军团团围住。尽管李陵箭法非常好，士兵们也十分英勇，杀死五六千名匈奴骑兵，最后终因寡不敌众，全军覆没。李陵也被匈奴俘虏，投降了。消息传到汉朝，汉武帝大怒，要将李陵全家处死。
司马迁是李陵的老朋友，对李陵的为人比较了解。于是他上书汉武帝，说:“李陵虽然兵败投降，一定是出于无奈，日后肯定会将功赎罪报答汉朝。试想，面对数万敌军包围，他能身先士卒，英勇杀敌，歼灭了多于自己的敌军，如果有意投降，他会抵抗到最后吗?请大王三思。”
谁知汉武帝火气正旺，认为司马迁是有意替李陵开脱，竟将司马迁投入狱中，并处以腐刑。这种刑罚不仅使受刑者在身体上遭受痛苦，而且对受刑者的人格也是极大的侮辱。
当时，司马迁已继承父亲的事业，阅读整理了大量的历史资料，准备撰写《史记》。他受此打击，痛不欲生，几次想一死了之。可是他又想到，当年周文王被关禁，写成了《周易》；孔子周游列国被困在陈蔡边境，编写了《春秋》；屈原被流放，写出了《离骚》；左丘明双眼失明，写了《国语》；孙膑被剜掉膝盖骨、写出了《兵法》；如今我受此酷刑，何不趁此写出《史记》呢?
于是，他忍受着精神上，肉体上的极大痛苦，利用已搜集到的历史资料，发愤著书。
终于在他五十多岁时,完成了《史记》这部鸿篇巨著。这是我国第一部纪传体史书,共一百三十篇,五十二万字。它不仅内容翔实可靠,而且文字生动优美,既是一部伟大的历史著作，又是一部优美的文学作品。鲁迅曾评价《史记》为“史家之绝唱，无韵之离骚”。《史记》的成功,不仅体现了司马迁是一位有着宏伟志向的生活强者，而且也体现了他严谨治学的态度。
在司马迁二十多岁时,他就漫游全国,搜集各地的民间传说和历史资料,足迹遍及大江南北。他到过浙江会稽,考察了传说中大禹召集首领开会的禹穴；他到过韩信的故乡淮阴，察着了韩信母亲的墓地；他去汩罗江畔凭吊爱国诗人屈原；他来到春秋时齐鲁的都城，游览了孔子讲学的遗址；他爬上四川岷山，远眺李冰修建的都江堰……经过这次大规模的巡游，他开阔了眼界，获得了大量的知识，积累了丰富的历史资料，所有这些，为司马迁写《史记》打下很扎实的基础。
除了实地考察、搜集资料,他在《史记》的文字上，把古代那些过于艰深、不易理解的文字用当时比较通俗的文字表达出来。不仅如此，而且他对当朝的历史，能实事求是地加以记载。对好事决不夸大，坏事决不隐瞒，甚至对汉武帝的缺点和过失，也能恰如其分的叙述。
对中国历史上的农民起义,如陈胜、吴广,他给予高度评价；对社会中下层人物，他表现了极大同情。这些，也反映了司马迁对待人和事的正直态度。
总之，司马迁不仅是一位伟大的历史学家，文学家，同时也是后人治学和做人的楷模。