拜见太后。三年之后，他也去世了。
高后元年（前184）的时候，她听说御史大夫江邑侯赵尧在高祖时定下了保全赵王如意的计策，于是就除去他江邑侯爵位以抵其罪，并让广阿侯任敖担任了御史大夫。
任敖这个人，原来是沛县的一名狱吏。高祖还是一名普通百姓时，曾躲避官司，狱吏找不到高祖本人，便抓走了吕后，并对她很不礼貌。而任敖一直和高祖很要好，见此情景非常生气，就打伤了拘管吕后的那位狱吏。等到高祖开始起兵的时候，任敖就以宾客的身份跟随，后来担任御史，驻守丰邑两年。高祖立为汉王，向东进击项羽，任敖升为上党郡守。在陈豨造反的时候，任敖坚守城池，未被叛军攻陷，因功被封为广阿侯，食邑一千八百户。高后时，担任御史大夫。三年后备免职，任命平阳侯曹窋为御史大夫。高后去世之后，曹窋和大臣们共同诛杀吕禄等人，后被免去官职，任命淮南王相国张苍为御史大夫。
张苍和绛侯周勃等人共同尊立代王为孝文皇帝。文帝四年（前176），丞相灌婴去世，张苍继任为丞相。
自从汉朝建立到孝文帝已有二十多年时间，当时正处在天下刚刚平定的时候，朝廷中的文武百官都是军人出身，而唯独张苍从担任计相时起，就致力于探讨、订正音律和历法的工作。因为高祖是在十月里入关，灭秦到达霸上的，所以原来秦代以十月为一年开端的旧历法依然沿袭。他又推求金、木、水、火、土五德运转的情形，认为汉朝正值水德旺盛的时期，所以仍然像秦朝那样崇尚黑色。张苍还吹奏律管，调整乐调，使其合于五声八音，以此推类其它，来制定律令。并且由此制定出各种器物的度量标准，以作为天下百工的规范。在他担任丞相一职时期，终于把这一切都完成了。所以整个汉代研究音律历法的学者，都师承张苍。而张苍这个人又本来就喜欢图书，再加上他什么书都读，什么学问都精通，而尤其擅长音律和历法。
张苍对于曾经救过自己性命的王陵感恩戴德。王陵就是安国侯。等到张苍当了高官之后，经常把王陵当作父亲一般侍奉。王陵死后，张苍已经是丞相了，但是每逢五天一休假的时候，总是先拜见王陵夫人，献上美食之后，才敢回家。
张苍担任丞相十几年之后，鲁国有个人叫公孙臣，他上书给皇帝，说汉朝属于上德旺盛时期，其征兆是不久将要有黄龙出现。皇帝下诏把此议交给张苍审鉴，张苍认为并非这样，把这件事扔在了一边。但是后来黄龙果然出现在天水郡的成纪县于是文帝就把公孙臣召到了朝廷，并任命他为博士，让他负责草拟顺应土德的历法制度。同时，改定元
