“金张藉旧业，七叶珥汉貂。冯公岂不伟，白首不见招。”所谓封建盛世，用人不过如此。张汤酷吏，而荫及七世，天道如此，太史公不禁搔首曰：“余甚惑焉，倘所谓天道，是邪非邪？”张汤是封建社会酷吏最有名的代表，也是人性异化的典型，是《史记》中塑造的最突出的人物之一。
张汤与赵禹在汉武帝时共同制定法度，汉法愈发严厉，即从二人开始。赵禹，扶风斄（同“邰”）县人，以佐史补中都官，再升令史，事周亚夫。周亚夫为相，赵禹为丞相史，府中皆称其廉平。周亚夫却说，赵禹才能无人可比，但他执法深刻，不可以居大府，因此不重用他。汉武帝时，赵禹升为御史，再升为太中大夫，
张汤是杜县人，其父为长安丞，张汤小时候，有一次他的父亲出门，让他看家。父亲走后，有老鼠偷了家里的肉，父亲回来后很生气，就用鞭子打了张汤。张汤不忿，掘开鼠洞找住偷肉的老鼠和没吃完的肉，像审理犯人一样先告发老鼠的罪行，然后拷打审问并记录在案，勘问再三然后把判决上报，并拿老鼠和剩肉为证，最后定案磔鼠于堂下。他的父亲对此非常惊讶，又看到他写的判决文辞如同老狱吏一般，遂着意培养他。
张汤父亲死后，张汤为长安吏多年。周阳侯田胜（汉武帝母王太后同母弟）为九卿时，曾拘系长安，张汤倾其所能加以周旋。田胜后来出狱封侯，与张汤关系特密，并介绍张汤与当朝权贵结识。张汤在酷吏宁成属下为官，宁成认为张汤有才，向上推荐，调任茂陵尉。武安侯田蚡为相时，征张汤为内史，并多次向天子推荐张汤，遂补御史，主持刑狱。张汤审理陈皇后巫蛊一案时，大事牵连，武帝以为能，遂升其为太中大夫，与赵禹一起制定法律条文，务求苛峻，约束官吏唯恐不足。
不久，赵禹迁为中尉，又改任少府，而张汤为廷尉，两人情意相投，张汤对赵禹敬如兄长。赵禹为人廉洁孤傲，家无食客，公卿造访，一律不回访答谢，对待下属总是暗中搜集其错处作为把柄。张汤为人多诈，善弄权术控制别人。他为小吏时就喜欢谋私利，与长安富户勾结。官至九卿后，开始结交天下名士，虽然内心与他们不合，但表面却装出仰慕的样子。
汉武帝宣扬儒术，张汤判案就附会儒家说法。他上报案件时，如果皇帝认为正确，他就记录下来作为成例，以廷尉的名义公布，颂扬皇帝的圣明。如果遭到责备，张汤就认错谢罪，顺着皇上的心意改变，所以总能被宽恕。他想推荐人时，就在皇帝称赞奏章写得好时说是某某所作。皇帝要想加重罪于人，他就交给严酷的下级去处理；皇帝想要宽恕的，他就交给执法轻而公平的下级去办理；“所治即豪，必舞文巧诋”。
张汤虽官高，但与人交往，表面上都很尊重，对故人子弟和贫穷的亲戚一律厚待。平时拜问三公，不避寒暑。所以张汤虽然文深意忌，处事不公，却有一个好名声。他专门起用执法酷烈的官吏为爪牙，又依附文学之士，因此丞相公孙弘也屡次称美。张汤处理淮南王、衡山王、江都王谋反案件时，总是穷追到底。严助、伍被等人，武帝本想赦免，都由于张汤进言最终被处死。他在处理案件时常借机打击对手，自己邀宠，以此得升为御史大夫。
匈奴浑邪王等降汉时，天下骚动，各地水旱灾害频繁，朝廷资用不足，遂极力敛财。张汤承武帝意旨，铸五铢钱，垄断盐铁，打击富商大贾，鼓励告缗，铲除豪强，舞文弄法推行政令，武帝大悦，从早到晚与张汤谈论国家财用，甚至忘了吃饭。当时丞相充位而已，天下事皆决于张汤。九州骚动，奸吏侵渔，地方无利，自公卿以下至于庶人，无不痛恨张汤。
匈奴来汉朝请求和亲，武帝召集群臣讨论。博士狄山以为和亲有利，而张汤反对，并说这都是儒生的无知愚见。狄山愤然道，“臣固愚忠，若御史大夫汤乃诈忠。若汤之治淮南、江都，以深文痛诋诸侯，别疏骨肉，使藩臣不自安。臣固知汤之为诈忠。”于是武帝变色，竟下令让狄山驻守边境亭障，才过了一个多月，狄山就被匈奴所杀，群臣深为震恐。而武帝更加宠信张汤，张汤生病，武帝亲自去探看病情。
张汤为御史大夫七年而败。河东人李文与张汤有嫌，为御史中丞时搜集对张汤不利的材料。张汤的下属鲁谒居让人匿名告发李文，案子交给张汤处理，张汤枉法杀了李文。武帝有所听闻，张汤却回复说，大概是李文的故人怨恨他所为。赵王与张汤不和，鲁谒居也曾检举赵王，赵王遂上书告发二人朋比为奸，事下廷尉，鲁谒居病死，事情牵连其弟。张汤到狱中看到鲁谒居的弟弟，想暗中帮助他，就故意不看他。鲁谒居的弟弟不了解张汤的想法，心中怨恨，就让人上告张汤和鲁谒居的阴谋，如合谋匿名告发李文等。案件由减宣审理，减宣也同张汤有隙，遂把案情调查得水落石出，尚未上报。
当时又有人盗挖文帝陵园的葬钱，丞相庄青翟与张汤约定上朝谢罪，等庄青翟谢罪后，张汤却以为这是丞相失职，与己无干，拒绝谢罪。武帝派御史查办此事，张汤且欲以此治罪丞相庄青翟，庄青翟非常忧虑。丞相手下的三长史朱买臣、王朝、边通也都痛恨张汤，因为朱买臣等为高官时，张汤只是小吏，在朱买臣面前跪听差遣，现在张汤官居三人之上，倨傲无礼，多次折辱三人，三长史都想伺机报复。
于是，三长史合谋并对庄青翟说，张汤同你约好又背约出卖你，现在又用宗庙之事来打击你，是想代替你的职位。我们已经了解张汤种种不法的行为，比如张汤制定法规前透露给长安富户田信等，田信知道后就囤积物资发了大财，然后同张汤分脏等等。武帝遂问张汤，朝廷要做的事，商人为什么都预先知道而囤积货物。张汤不谢罪，反而假装惊讶表示不知。这时减宣也上奏张汤和鲁谒居等违法之事。于是武帝以为张汤怀诈面欺，派数批使者拿着罪证质问张汤，张汤仍拒不认罪。
武帝又派赵禹审问张汤，赵禹对张汤说，当初你审理案件时，被你夷灭家族的人数不胜数。如今有人告你，证据确凿，皇帝不想为难你，给你保留颜面让你自裁，你还有什么不认的呢？张汤于是上书谢罪说：“汤无尺寸功，起刀笔吏，陛下幸致为三公，无以塞责。然谋陷汤罪者，三长史也”，遂自杀。
张汤死后，家产不过五百金，都是得自俸禄和朝廷的赏赐，也无其他产业。张汤昆弟诸子想厚葬张汤，张汤的母亲说，张汤是朝廷大臣，受诬告而死，何厚葬乎？载以牛车，有棺无椁。武帝听说后感叹，不是这样的母亲，生不出这样的儿子。又追念张汤为自己立的功劳，穷究其案，为张汤杀三长史，丞相庄青翟亦自杀。而赵禹年轻时做事严酷急躁，到晚年时却一改既往，不顾朝廷努力施行严刑峻法，执法平和，后赵禹因年老改任燕国丞相，有罪免官，在张汤死后十余年老死于家中。