由于李善长没能见到时势有异，行事也应有所不同，所以他在洪武初年身为左丞相时，与他身在军中作为谋主之时并无什么改变，甚至专恣自用还更有过之。凡是让他觉着看不顺眼的人，或是有人冒犯了他，便即毫不宽贷，立即定下罪名，奏而黜之。在他，原不过是本着他的敢于任事，当机立断惯例，照旧而行而已。但在已经身登帝位，成为开国之君的朱元璋看来，这样的做法，却是太过目中无人，竟然忘了还有他这么个高居尊位的皇帝了。一次两次，尚自犹可，次数一多起来，更觉忍无可忍。他对李善长的不满，便是由此开始，对于相权感到应该有所限制，也是由此而产生了苗头。但是，李善长的功高望重，他还是很清楚的，处置不当，会引起不少不良后果，他也非常明白。他虽十分不快，但还是隐忍着，等待有个适当的机会。到洪武四年（1371），这样的机会恰好来了。那是恰好李善长患病在家，自觉多日未能前往中书省治事，心有未安，便上疏恳请致仕。他这样做，无非是略以示意：一则是略示未能任事心有未安，二则也是借此以为探试，看看皇帝对他究竟如何。这种手法，也是历代大臣所惯用的。李善长认为，疏文递上之后，皇帝温谕慰留是肯定的，他想知道的，不过是慰留的词句到底可以达到何种程度罢了。但是，出乎他的意外，朱元璋得到奏疏之后，并没有如他所想的那样，下诏温谕慰留，而是顺其所请，立即钦批，准其致仕了。这对李善长来说，无异当头泼了一盆冷水。

    朱元璋所以这样做，也是深思熟虑过的，有他的用意。这一则是明白显示出恩礼之衰，使李善长自己感到，不再恣情自用，可以保住晚节；再则，让他离开政府也可减少他们彼此之间的摩擦，对李善长来说，也寓有保全之意。不过话虽如此，这种做法还是显得过于寡情，有些近于毒辣。以功高望重如李善长而言，结果竟至如此，实在很令人寒心。这些，朱元璋自己也很明白，他的补救方法是从赐给优厚上加以弥补，对李善长的家人也特加恩礼，到洪武九年（1376）更将自己的女儿，临安公主下嫁给李善长的长子李祺为妻，恩遇更见加重。这样，李祺便成为位在伯爵之上的驸马都尉，李善长也成了国戚，从表面上看来，关系比以前仿佛更为亲密了。其实，这种一打一拉的做法，已为历来所习用，起不到什么作用了。

    徐达是在李善长致仕之前便已离开了中书省的，李善长如又致仕，便会主持无人。那时朱元璋虽已感到宰相的权势对他的帝权很有威胁，但还认为那只是由于李善长恃功恣肆，所以才会如此，换上个谨饬小心的人，情形便不同了。经过多方权衡，明太祖选中了由汪广洋接替李善长的相位。就在李善长获准致仕之日，便也是汪广洋得入中书省，调升右丞相之时。

    汪广洋也是个追随了朱元璋很久的旧人，还在朱元璋建号吴国之前，他便已在朱元璋的帅府中任职。汪广洋在帅府中所任的官职是令史，那是个兼具参谋和秘书的作用的职务。汪广洋这人是个遇事很能深思，小心谨慎，且又精明仔细的人，他是以“廉明持重，善理繁剧”为朱元璋素所深知的，选他来接替李善长，正是看中了他的这些特点。

    汪广洋曾两度出入于中书省，都是被任命为右丞相。第一次是于洪武四年（1371）正月接替李善长独任相职。这次他在中书省工作了整整三年，于洪武七年（1374）正月，以“无所建白”，被降为广东参政。第二次的任职时间比第一次还略短些，他是于洪武十年（1377）九月又被调回重任右相，到洪武十二年（1379）又以得罪去职的。

    汪广洋的两度出入中书省，都和李善长有些关联。他和李善长虽然都曾在朱元璋的帅府任职，但两人间的往来却并不多，朱元璋用他来接替李善长，这一点也是决定的原因之一。汪广洋是个细心人，朱、李之间暗