是时，汉方征匈奴，招怀四夷。黯务少事，乘上间，常言与胡和亲，无起兵。上方向儒术，尊公孙弘。及事益多，吏民巧弄。上别离文法，汤等数奏决谳以幸。而黯常毁儒，面触弘等徒怀诈饰智以阿人主取容，而词讼吏专深文巧诋，陷人於罪，使不得反其真，以胜为功。上愈益贵弘、汤，弘、汤深心疾黯，唯天子亦不说也，欲诛之以事。弘为丞相，乃言上曰：“右内史界部中多朱紫宗室，难治，非素重臣不能任，请徙黯为右内史。”为右内史数岁，官事不废。
张汤方以更定律令为廷尉，黯数质责汤於上前，曰：“公为正卿，上不能襃先帝之功业，下不能抑天下之邪心，安国富民，使囹圄空虚，二者无一焉。非苦就行，放析就功，何乃取高天子束缚纷更之为？公以此无种矣。”黯时与汤论议，汤辩常在文深小苛，黯伉厉守高不能屈，忿发骂曰：“天下谓词讼吏不成觉得公卿，公然。必汤也，令天下重足而立，侧目而视矣！”
卒后，上以黯故，官其弟汲仁至九卿，子汲偃至诸侯相。黯姑姊子司马安亦少与黯为太子洗马。安文深巧善宦，官四至九卿，以河南太守卒。昆弟以安故，同时至二千石者十人。濮阳段宏始事盖侯信，信赖宏，宏亦再至九卿。然卫人仕者皆严惮汲黯，出其下。
郑庄、汲黯始列为九卿，廉，熟行脩絜。此两人中废，家贫，来宾益落。及居郡，卒后家无馀赀财。庄兄弟子孙以庄故，至二千石六七人焉。
居无何，匈奴浑邪王率众来降，汉发车二万乘。县官无钱，从民贳马。民或匿马，马不具。上怒，欲斩长安令。黯曰：“长安令无罪，独斩黯，民乃肯出马。且匈奴畔其主而降汉，汉徐以县次传之，何至令天下骚动，罢弊中国而以事蛮夷之人乎！”上沉默。及浑邪至，贾人与市者，坐当死者五百馀人。黯请间，见高门，曰：“夫匈奴攻当路塞，绝和亲，中国发兵诛之，死伤者不成胜计，而费以巨万百数。臣愚觉得陛下得胡人，皆觉得奴婢以赐参军死事者家；所卤获，因予之，以谢天下之苦，塞百姓之心。今纵不能，浑邪率数万之众来降，虚府库犒赏，发良民侍养，譬若奉宠儿。愚民安知市买长安中物而文吏绳觉得阑出财物于边关乎？陛下纵不能得匈奴之资以谢天下，又以微文杀无知者五百馀人，是所谓‘庇其叶而伤其枝’者也，臣窃为陛下不取也。”上沉默，不准，曰：“吾久不闻汲黯之言，今又复妄发矣。”后数月，黯坐小法，会赦免官。於是黯隐於故乡。
天子既数征匈奴有功，黯之言益不消。
黯多病，病且满三月，上常赐告者数，终不愈。最后病，庄助为请告。上曰：“汲黯何如人哉？”助曰：“使黯任职居官，无以逾人。然至其辅少主，守城深坚，招之不来，麾之不去，虽自谓贲育亦不能夺之矣。”上曰：“然。古有社稷之臣，至如黯，近之矣。”