”又再一次问：“东阳侯张相如是怎样的人呢？”文帝再一次回答说：“是个长者。”张释之说：“绛侯与东阳侯都被称为长者，可这两个人议论事情时都不善于言谈，现在这样做，难道让人们去效法这个喋喋不休伶牙俐齿的啬夫吗？秦代由于重用了舞文弄法的官吏，所以官吏们争着以办事迅急苛刻督责为高，然而这样做的流弊在于徒然具有官样文书的表面形式，而没有怜悯同情的实质。因为这个缘故，秦君听不到自己的过失，国势日衰，到秦二世时，秦国也就土崩瓦解了。现在陛下因为啬夫伶牙俐齿就越级提拔他，我想恐怕天下人都会追随这种风气，争相施展口舌之能而不求实际。况且在下位的人被在上的人感化，快得犹如影之随形声之回应一样，陛下做任何事情都不可不审慎啊！”文帝说：“好吧！”于是，取消原来的打算，不再任命啬夫为上林令。
文帝上了车，让张释之陪乘在身旁，车慢慢前行。文帝问张释之秦政的弊端，张释之都据实而言。到了宫里，文帝就任命张释之做了公车令。
不久，太子与梁王同乘一辆车入朝，到了皇宫外的司马门也没有下车，当时张释之迎上去阻止太子、梁王，不让他们进宫。并检举揭发他们在皇宫门外不下车犯了“不敬”罪，并报告给皇帝。薄太后知道了这件事，文帝摘下帽子陪罪说：“怪我教导儿子不严。”薄太后也派使臣带着她的赦免太子梁王罪过的诏书前来，太子、梁王才能够进入宫中。文帝由此更加看出了张释之的与众不同，任命他做了中大夫。
又过了些时候，张释之升任中郎将。跟随皇帝到了霸陵，汉文帝站在霸陵的北面眺望。这时慎夫人也跟随前行，皇帝用手指示着通往新丰的道路给她看，并说：“这是通往邯郸的道路啊。”接着，让慎夫人弹瑟，汉文帝自己合着瑟的曲调而唱，心里很凄惨悲伤，回过头来对着群臣说：“唉！用北山的石头做椁，用切碎的苧麻丝絮充塞石椁缝隙，再用漆粘涂在上面，哪还能打得开呢？”在身边的近侍都说：“对的。”张释之走上前去说道：“假若里面有了引发人们贪欲的东西，即使封铸南山做棺椁，也还会有缝隙；假若里面没有引发人们贪欲的东西，即使没有石椁，又哪里用得着忧虑呢！”文帝称赞他说得好。后来任命他做了廷尉。
此后不久，皇帝出巡经过长安城北的中渭桥，有一个人突然从桥下跑了出来，皇帝车驾的马受了惊。于是命令骑士捉住这个人，交给了廷尉张释之。张释之审讯那个人。那人说：“我是长安县的乡下人，听到了清道禁止人通行的命令，就躲在桥下。过了好久，以为皇帝的队伍已经过去了，就
