1978年黄克诚态度坚决要求辞职，陈云知道后劝说他要多想想彭德怀的经历，你怎么认为？
1978年初冬，北京的北风带着寒意，西长安街两侧的灯光却比往年更亮。离十一届三中全会只剩下半月，中央机关里一场紧张而谨慎的干部调整正在进行。穿过中南海的石阶，六十三岁的黄克诚拄着手杖，神情凝重——他已把辞呈写好，准备交上去。
两年前，1976年夏末，他在长沙犯了心绞痛，被紧急接回首都治疗。那时，“粉碎”尘埃未定，诸多老同志的去留悬而未决。组织上给他安排了中央军委顾问，名义上是休养，实则要他继续出谋划策。他把自己关在病房里，看军事文件，也写批注，却时常自问：“还能撑多久？”年过花甲、身染疴疾，这份自我怀疑像阴影笼在心头。
转年春天，邓颖超与胡耀邦不约而同想到黄克诚——党中央决定恢复中央纪律检查机构，需要一位老成持重又敢讲真话的常务书记。胡耀邦第一次上门，掏出那份名单，语速很快：“黄老，这摊子活儿不好干，可没人比您更合适。”黄克诚摆手，笑得苦涩：“请另找高明，我怕拖累大伙。”他谈到身体、年龄，也提到自己多年离岗，对新形势难免生疏。胡耀邦只好暂且作罢。

第二次登门是1978年金秋，枫叶满地。胡耀邦没绕弯子：“中央还是盼您点头。”黄克诚态度更硬，一句“我已决意告老，还望批准”堵住了回旋余地。躬耕数十年，本想留一点清静，他甚至向秘书交代，准备回湘阴老家整理回忆录。
消息很快传到陈云耳中。此时的陈云虽因病久未公开露面，但对组织建设抓得极紧。他请人转话：“这事不能就这么算。”几天后，陈云在颐年堂见了黄克诚。两位老战友久别重逢，没有寒暄，开门见山。“你真想退？”陈云低声问。黄克诚点头，“能力不济。”屋里一片静寂。片刻后，陈云抬起眼镜框，语气缓慢却有力：“你想想彭老总。他在朝鲜战场写下那句‘哪怕是最后一兵一卒，也要保卫祖国’。如今咱们没炮火，却要打另一场仗——整顿党风。没人比你更合适。”
短短一句话，将黄克诚的思绪拉回二十多年前的上甘岭，也勾起对彭德怀的深沉敬意。彭老总刚正不阿，即使在60年代遭遇挫折，也未改初心。黄克诚沉默良久，最终低声回应：“给我三天时间考虑。”

三天里，他翻阅了过去留下的工作笔记。笔记本上记录着延安整风、抗美援朝、1955年授衔后的军改细节。一页页看下去，他发现那股“务必保持清廉”的老传统从未褪色，只是自己一时忘了。第三天清晨，他拨通办公室电话：“我接受。”
十二月十八日，十一届三中全会在京召开，恢复中央纪委被写入决议。会上，黄克诚担任常务书记，协助陈云主持工作。会上，他简短鞠躬，只说一句：“组织信任，唯有尽责。”掌声不长，却干净有力。
上任次日，黄克诚在怀仁堂召开第一次书记处会议。议程只有两条：一是确立以事实为依据的复查机制，二是制定领导干部亲属经济活动报告制度。他用军队作风带节奏，文件不要长篇大论，一条规定不许超过五百字。有人提醒他：“不少同志好久没碰过这么硬的规矩。”黄克诚眉毛一挑：“正因为久了，才要赶紧拾回来。”

不久，几件久拖未决的错案在纪委督办下出现转机。山西临县“阎红彦冤案”复查结论出台，相关责任人被追责。舆论未公开，却在机关里口口相传。干部们感叹，老黄手里那把“纪律尺子”，久违却分量十足。
与此同时，他身体状况并未好转。心脏搭桥手术只是暂时缓解，医生再三叮嘱减压。可他常常清晨五点进办公室，端一碗小米粥，就着两片咸菜。秘书劝他注意休息，他摆摆手：“少浪费时间，干一点是一点。”这种自我要求，不得不说在当时并不多见。

1982年，中纪委完善“配对监督”方案，要求县处级以上干部均有对应监督对象，信息直接报书记处。方案起草人王鹤寿回忆：“黄老把稿子改得只剩三页，每一条都能落地。”配套的干部财产报告制度，也在翌年试点推开，为后来的反腐法规埋下伏笔。
进入1985年，黄克诚行走更显吃力。有人提出让他名义上留任，实际休养，他摇头拒绝：“革命不是挂牌子。”但多年的透支终究难敌病灶。1986年十二月二十日，他在解放军总医院与世长辞，终年七十一岁。遗体告别那天，冬雪初止，军乐团奏起《告别进行曲》，很多老兵流泪却不喧哗，仿佛依旧在队列里。
史家后来评他：躁与静并存，刚与柔兼备。尤为难得的，是临老还肯挑重担。改革开放之初，制度废弛、人心思变，他劈开缭绕迷雾，为中央纪委奠基。陈云那声“你想想彭老总”，成为点燃他最后八年生命力的火种；而他坚决掰正的那杆纪律天平，也在此后几十年的反腐征程中继续发挥作用。这段被尘封于档案里的对白，如今读来依旧铿锵。